oumi

一条命令搞定 LLM 微调、评估与部署，让模型落地更简单。

oumi 是一个专注于开源大语言模型（LLM）微调、评估和部署的全流程工具包。它旨在简化从模型选择到生产部署的复杂流程，支持 Qwen、Gemma、Llama 以及最新的 GPT-OSS 等主流开放权重模型。项目提供统一的命令行接口和 Python API，内置了数据预处理、多种微调策略（如 LoRA、全参数微调）、DPO 对齐、标准评估基准（如 lm-eval）以及高效的推理服务（如 vLLM 集成）。通过模块化设计，oumi 降低了用户上手门槛，使开发者能够快速迭代模型，并针对特定任务进行优化。其核心能力包括：灵活的数据集加载与处理、可扩展的训练器、自动化的评估流程，以及一键式部署方案，解决了从研究到落地过程中的工程复杂性。

开源 unknown 模型训练

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 9388

维护状态活跃

是否开源是

定价模式 unknown

项目数据

分类模型训练

开发团队oumi-ai

所属国家

官网地址https://oumi.ai

GitHubhttps://github.com/oumi-ai/oumi

定价模式unknown

价格说明定价信息待确认

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型dpo,evaluation,fine-tuning,gpt-oss,gpt-oss-120b,gpt-oss-20b,inference,llama,llms,open-weight,open-weight-models,open-weights,sft,slms,vlms

GitHub 星标★ 9388

30天Star增速

HF 下载量

上线时间2024-05-07 00:00:00

最近更新2026-09-21 00:00:00

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-10

浏览次数9

使用教程

难度：入门约 10 分钟部署方式：库/依赖 5 步

环境要求

Python 环境，可使用 uv 或 pip 安装 Python 包
若采用 Docker 镜像方式，需要 NVIDIA GPU 与容器运行时（命令中使用 --gpus all）
若在云端跑任务，需要 AWS、Azure、GCP 或 Lambda 等平台账号
只想快速试用的话，可用浏览器直接打开官方 Colab Notebook

安装与启动步骤

1安装 oumi

README 推荐使用 pip（uv pip install）方式安装 oumi 包，安装完成后即可使用 oumi 命令行。
```
uv pip install oumi
```
2或用 Docker 镜像

不想在本地装依赖时，可拉取官方镜像并以交互方式运行 oumi 命令，注意该命令需要 GPU 环境。
```
docker run --gpus all -it ghcr.io/oumi-ai/oumi:latest oumi --help
```
3验证命令可用

执行 oumi 的帮助命令，能正常输出 CLI 帮助说明即表示安装或镜像启动成功。
```
oumi --help
```
4跑通入门示例

README 提供多个可直接在 Colab 打开的 Notebook，如 A Tour、微调教程、评估、蒸馏等，适合零环境快速体验。
5提交远程任务

需要更大算力时，可用 oumi launch 在 AWS、Azure、GCP、Lambda 等云平台运行任务，具体参数请参考官方文档。
```
oumi launch
```

如何确认成功

执行 oumi --help 能正常输出 CLI 帮助信息，或 docker run 后成功进入 oumi 命令行，即表示部署成功。

常见问题

Q：必须用 uv 安装吗？

A：README 的安装章节标题为“Using pip (Recommended)”，给出的命令是 uv pip install oumi，属于 pip 体系安装方式；如本机没有 uv，也可按同等 pip 语义安装。

Q：没有 GPU 能用吗？

A：Docker 方式给出的命令带 --gpus all，说明需要 GPU 环境；没有本地 GPU 时，可改用 README 提供的 Colab Notebook 试用。

Q：怎么快速体验微调和评估？

A：直接打开 README 中列出的 Colab Notebook，例如 Model Finetuning Guide（LoRA 微调）和 Model Evaluation，无需本地配置环境。

Q：怎么把任务放到云上跑？

A：使用 oumi launch 命令，README 说明其支持 AWS、Azure、GCP、Lambda 等平台，具体子命令与参数需查阅官方文档。

注意事项

README 安装章节非常简短，仅给出 pip（uv pip install oumi）与 Docker 镜像两种入口，未列出完整依赖清单。
Docker 镜像地址为 ghcr.io/oumi-ai/oumi:latest，运行示例中使用 --gpus all，请确认本机已安装 NVIDIA 驱动与容器 GPU 支持。
实际训练、评估、部署的详细配置项 README 节选中未展开，建议结合官网 oumi.ai 与仓库中的笔记本、示例配置使用。

核心亮点

统一接口覆盖微调、评估、部署全流程，减少工具切换成本
支持多种主流开放权重模型（Qwen、Llama、Gemma、GPT-OSS）
内置 DPO 等对齐算法，方便快速进行偏好优化

不足之处

文档/社区待观察
高级功能（如自定义训练器）可能需要深入阅读源码

适用场景

针对特定领域数据对开源 LLM 进行快速微调
在多个基准上对比不同模型的性能以选择最优
将微调后的模型部署为内部 API 服务供业务调用

替代项目

LLaMA-Factory、Axolotl、Hugging Face TRL

项目介绍

oumi 是模型训练领域的开源项目，由 oumi-ai 开发，2024 年首次发布。

在全站 13,090 个收录项目中，它的 GitHub 星标数（9,388）位列前 6%，在模型训练分类的 522 个项目里位列前 6%。

项目目前处于活跃维护状态，最近一次代码更新于 2026-09-21。从国内网络环境看，可直接访问。

它主要面向的使用场景是：针对特定领域数据对开源LLM进行快速微调。同类可对比的替代方案包括 LLaMA-Factory、Axolotl、Hugging Face TRL。

上一篇：mnist-mlops-learning

下一篇：Kiln