Meta

Everything we announced at our first-ever LlamaCon

April 29, 2025• 7 minute read

主要内容

LlamaCon 已正式拉开帷幕。我们的首届活动汇集了来自世界各地的开发者，他们都有一个共同点：他们喜欢使用 Llama 进行构建。自从我们 发布 Llama 以来，已经过去了两年多一点的时间。在此期间，我们已经超过了 10 亿次的下载量，最重要的是，Llama 已成为开源 AI 生态系统中的领导者。开发者、初创公司、政府和企业都通过利用 Llama 的能力来推动创新、提高效率和解决复杂问题，从而获得了成功。

当然，我们不能将一群开发者聚集在一起而不分享一些开源工具，这些工具将使他们更容易探索 Llama 模型、更快地构建，并使用最新的工具进行防御和保护。以下是我们今天宣布的内容以及你如何开始使用我们最新版本的内容。

推出 Llama API 预览版：闭源模型 API 的最佳特性，以及开源的灵活性

我们希望让你更容易快速开始使用 Llama 进行构建，同时让你完全控制你的模型和权重，而无需被锁定到 API 中。今天，我们宣布推出 Llama API——我们即将推出的 Llama 应用程序开发开发者平台，该平台以有限的免费预览版提供。

Llama API 提供了简单的一键式 API 密钥创建和交互式游乐场，以探索不同的 Llama 模型，包括我们本月早些时候宣布的 Llama 4 Scout and Llama 4 Maverick models。当你准备构建你的应用程序时，我们提供了一个轻量级的 SDK，包括 Python 和 Typescript。Llama API 也与 OpenAI SDK 兼容，可以轻松转换现有应用程序。

我们知道，拥有可以帮助你更有效地自定义和运行模型的工具也很重要。作为此版本的一部分，我们正在分享新的 API 中用于微调和评估的工具，你可以在其中调整你自己的新 Llama 3.3 8B 模型的自定义版本。我们分享此功能是为了帮助你降低成本，同时努力提高速度和准确性。你可以生成数据、对其进行训练，然后使用我们的评估套件轻松测试新模型的质量。使评估更易于访问且更易于运行将有助于从直觉转向数据，确保你拥有性能良好的模型来满足你的需求。你的内容和数据的安全性和隐私是我们的首要任务。我们不使用你的提示或模型响应来训练我们的 AI 模型。当你准备好时，你在 Llama API 上构建的模型可以随你一起托管在你想要托管的任何地方，我们不会将它们锁定在我们的服务器上。我们正在向精选客户推出这些功能，并计划在未来几周和几个月内进行更广泛的推广。这将为开发者开辟新的可能性，为各种用例构建自定义模型。

此预览版只是 Llama API 的第一步。我们很高兴有更多人使用我们的 API 进行构建，并将使用他们的反馈来帮助我们迭代未来的版本。如果你有兴趣申请我们的免费预览版的早期限量名额之一，请填写 此表格。

通过 Llama API 实现快速推理

我们很高兴地宣布与 Cerebras 和 Groq 合作，这将有助于使更多 Llama 开发者能够使用 Llama API 实现更快的推理速度。现在可以通过请求获得由 Cerebras 和 Groq 驱动的 Llama 4 模型的早期实验性访问，这为开发者提供了一种方便的方式来试验和原型设计用例，然后再使用他们选择的供应商进行扩展。只需在 API 中选择 Cerebras 或 Groq 模型名称，开发者就可以利用此功能，并享受在一个位置跟踪所有使用的简化体验。此次合作加强了我们对培育提供灵活性和选择的多元化生态系统的承诺，我们期待扩大与更多提供商的合作，从而带来更多基于 Llama 构建的选项。

新的 Llama Stack 集成

我们从开发者那里了解到，我们需要使使用不同服务提供商部署应用程序变得更容易。去年，我们与合作伙伴合作，为其下游企业客户构建 Llama Stack 发行版。今年，我们正在扩大这些合作，包括最近宣布的 Llama Stack 与 NVIDIA NeMo 微服务的集成，并与 IBM、Red Hat、Dell Technologies 等合作伙伴紧密合作，即将宣布新的集成。与我们的合作伙伴一起，我们设想 Llama Stack 成为希望无缝部署生产级统包 AI 解决方案的企业的行业标准。

适用于开源社区的新的 Llama Protections 和安全性

我们致力于为开发者提供最好的工具和资源来构建安全的 AI 应用程序。今天，我们发布了适用于开源社区的新的 Llama protection tools，包括 Llama Guard 4、LlamaFirewall 和 Llama Prompt Guard 2。我们还分享了更新，以帮助组织评估 AI 系统在安全运营中的有效性（使用 CyberSecEval 4），并宣布为精选合作伙伴推出 Llama Defenders Program。随着功能更强大的 AI 模型变得可用，我们认为这是提高软件系统稳健性的重要工作。阅读更多 关于我们最新的开源 protection tools 和 AI 安全性进展的新闻。

认识 Llama Impact Grant 获奖者

Llama Impact Grants 旨在通过开源 AI 促进创新并创造经济机会。今天，我们很高兴地宣布第二批 Llama Impact Grants 的 10 个国际获奖者。这些赠款的金额超过 150 万美元，授予 10 个国际获奖者，用于支持使用 Llama 推动变革的公司、初创企业和大学。今年的获奖者展示了各种各样的解决方案，包括来自美国的 E.E.R.S.，它使用支持 Llama 的聊天机器人来增强公众对公民服务的访问；以及英国的 Doses AI，它通过实时错误检测来改变药房运营。其他值得注意的获奖者包括 Solo Tech，它在美国农村社区提供离线 AI 支持；以及 FoondaMate，这是一种多语言学习工具，可帮助非洲及其他地区的数百万学生。阅读更多 关于 Llama Impact Grant 获奖者。

未来是开源的

我们很自豪能够成为开源 AI 的领导者，并让我们的 Llama 生态系统处于这场革命的最前沿。借助 Llama，开发者和企业可以自由地构建任何他们想要的东西，而不会受到专有系统或锁定合同的束缚。这种灵活性，加上其可移植性和可访问性，使 Llama 成为那些希望利用 AI 力量的人的首选。

我们致力于成为企业和开发者的长期合作伙伴，并提供从闭源模型到 Llama 的无缝过渡路径。Llama 经济实惠、易于使用，并使更多人能够访问 AI 的好处，无论他们的技术专长或硬件资源如何。我们相信 AI 能够改变行业并改善生活，这就是为什么我们很高兴继续支持 Llama 生态系统的增长和发展，以造福所有人。我们迫不及待地想看看你接下来会构建什么。