Transformer Lab：一款用于大型语言模型的开源工具包
Transformer Lab 是一款由 Mozilla 支持的开源工具包，旨在帮助用户在本地构建、调优和运行大型语言模型。它提供一键下载热门模型、从 Huggingface 下载模型、在不同硬件上微调/训练、RLHF 和偏好优化、跨平台使用、与模型聊天、评估模型、RAG、构建数据集、计算 Embeddings、REST API、云端运行、跨平台转换模型、插件支持、Prompt 编辑和推理日志等功能。用户无需编写代码即可使用，适用于希望在产品中集成大型语言模型的开发者。
Skip to main content
Transformer LabDocumentationAboutBlog
Download ↓GitHubDiscord 💬
Search
100% 开源大型语言模型工具包：在你自己的机器上训练、调优和评估
立即下载 ↓ 或 了解更多 Your browser does not support the video tag.
由 Mozilla 支持
Transformer Lab 很荣幸能获得 Mozilla 通过 Mozilla Builders Program 的支持。
什么是 Transformer Lab?
Transformer Lab 是一个开源平台，它允许任何人在本地构建、调优和运行大型语言模型，而无需编写代码。
我们设想一个未来，每个软件开发人员都将在他们的产品中集成大型语言模型。 Transformer Lab 允许用户在不需要了解 Python 或具备机器学习经验的情况下做到这一点。
详细功能列表
- 💕 一键下载数百个热门模型：
- Llama3, Phi3, Mistral, Mixtral, Gemma, Command-R 等等
- ⬇ 从 Huggingface 下载任何 LLM
- 🎶 在不同的硬件上进行微调/训练
- 在 Apple Silicon 上使用 MLX 进行微调
- 在 GPU 上使用 Huggingface 进行微调
- ⚖️ RLHF 和偏好优化
- DPO
- ORPO
- SIMPO
- Reward Modeling
- 🧐 GRPO 训练
- 💻 跨操作系统使用 LLM：
- Windows App
- MacOS App
- Linux
- 💬 与模型聊天
- Chat
- Completions
- Preset (Templated) Prompts
- Chat History
- 调整生成参数
- Batch Inference
- 🚂 使用不同的推理引擎
- Apple Silicon 上的 MLX
- Huggingface Transformers
- vLLM
- Llama CPP
- 🧑🎓 评估模型
- Eleuther Harness
- LLM as a Judge
- Objective Metrics
- Red Teaming Evals
- 评估可视化和绘图
- 📖 RAG (Retreival Augmented Generation，检索增强生成)
- 拖放文件 UI
- 适用于 Apple MLX、Transformers 和其他引擎
- 📓 构建用于训练的数据集
- 从 HuggingFace 上提供的数百个常用数据集中提取
- 使用拖放操作提供您自己的数据集
- 🔢 计算 Embeddings
- 💁 完整的 REST API
- 🌩 在云端运行
- 您可以在桌面/笔记本电脑上运行用户界面，同时引擎在远程或云机器上运行
- 或者您可以将所有内容都运行在单台机器上
- 🔀 跨平台转换模型
- 转换为/从 Huggingface, MLX, GGUF 转换
- 🔌 插件支持
- 轻松地从现有插件库中提取
- 编写您自己的插件以扩展功能
- 📝 Prompt 编辑
- 轻松编辑系统消息或 Prompt 模板
- 📜 推理日志
- 在进行推理或 RAG 时，查看发送到 LLM 的原始查询的日志
社区
更多
Copyright © 2025 Transformer Lab