oumi

一条命令搞定 LLM 微调、评估与部署，让模型落地更简单。

开源 🏷️定价信息待确认 ✅ 目前可打开模型训练 🍴 复刻 798 🐛 待处理 27 👀 关注 61

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 9429

维护状态活跃

是否开源开源

定价模式 🏷️定价信息待确认

项目预览

项目数据

分类模型训练

开发团队oumi-ai

官网地址https://oumi.ai

GitHubhttps://github.com/oumi-ai/oumi

定价模式🏷️定价信息待确认

价格说明定价信息待确认

访问状态✅ 目前可打开

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型agentic-ai,dpo,fine-tuning,gemma,gpt-oss,grpo,inference,llama,llm,llm-as-a-judge,llm-evaluation,llms,lora,pytorch,qwen,reinforcement-learning,sft,synthetic-data,tool-calling,vlm

GitHub 星标★ 9429

上线时间2024-05-07 00:00:00

代码更新2026-11-06

仓库体积105.7 MB

本站数据更新2026-11-09

维护状态活跃

收录时间2026-08-10

浏览次数9

项目介绍

oumi 是一个专注于开源大语言模型（LLM）微调、评估和部署的全流程工具包。它旨在简化从模型选择到生产部署的复杂流程，支持 Qwen、Gemma、Llama 以及最新的 GPT-OSS 等主流开放权重模型。项目提供统一的命令行接口和 Python API，内置了数据预处理、多种微调策略（如 LoRA、全参数微调）、DPO 对齐、标准评估基准（如 lm-eval）以及高效的推理服务（如 vLLM 集成）。通过模块化设计，oumi 降低了用户上手门槛，使开发者能够快速迭代模型，并针对特定任务进行优化。其核心能力包括：灵活的数据集加载与处理、可扩展的训练器、自动化的评估流程，以及一键式部署方案，解决了从研究到落地过程中的工程复杂性。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 9429

技术标签

agentic-ai dpo fine-tuning gemma gpt-oss

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：入门约 10 分钟部署方式：库/依赖 5 步

环境要求

Python 环境，可使用 uv 或 pip 安装 Python 包
若采用 Docker 镜像方式，需要 NVIDIA GPU 与容器运行时（命令中使用 --gpus all）
若在云端跑任务，需要 AWS、Azure、GCP 或 Lambda 等平台账号
只想快速试用的话，可用浏览器直接打开官方 Colab Notebook

安装与启动步骤

1安装 oumi

README 推荐使用 pip（uv pip install）方式安装 oumi 包，安装完成后即可使用 oumi 命令行。
```
uv pip install oumi
```
2或用 Docker 镜像

不想在本地装依赖时，可拉取官方镜像并以交互方式运行 oumi 命令，注意该命令需要 GPU 环境。
```
docker run --gpus all -it ghcr.io/oumi-ai/oumi:latest oumi --help
```
3验证命令可用

执行 oumi 的帮助命令，能正常输出 CLI 帮助说明即表示安装或镜像启动成功。
```
oumi --help
```
4跑通入门示例

README 提供多个可直接在 Colab 打开的 Notebook，如 A Tour、微调教程、评估、蒸馏等，适合零环境快速体验。
5提交远程任务

需要更大算力时，可用 oumi launch 在 AWS、Azure、GCP、Lambda 等云平台运行任务，具体参数请参考官方文档。
```
oumi launch
```

如何确认成功

执行 oumi --help 能正常输出 CLI 帮助信息，或 docker run 后成功进入 oumi 命令行，即表示部署成功。

常见问题

Q：必须用 uv 安装吗？

A：README 的安装章节标题为“Using pip (Recommended)”，给出的命令是 uv pip install oumi，属于 pip 体系安装方式；如本机没有 uv，也可按同等 pip 语义安装。

Q：没有 GPU 能用吗？

A：Docker 方式给出的命令带 --gpus all，说明需要 GPU 环境；没有本地 GPU 时，可改用 README 提供的 Colab Notebook 试用。

Q：怎么快速体验微调和评估？

A：直接打开 README 中列出的 Colab Notebook，例如 Model Finetuning Guide（LoRA 微调）和 Model Evaluation，无需本地配置环境。

Q：怎么把任务放到云上跑？

A：使用 oumi launch 命令，README 说明其支持 AWS、Azure、GCP、Lambda 等平台，具体子命令与参数需查阅官方文档。

注意事项

README 安装章节非常简短，仅给出 pip（uv pip install oumi）与 Docker 镜像两种入口，未列出完整依赖清单。
Docker 镜像地址为 ghcr.io/oumi-ai/oumi:latest，运行示例中使用 --gpus all，请确认本机已安装 NVIDIA 驱动与容器 GPU 支持。
实际训练、评估、部署的详细配置项 README 节选中未展开，建议结合官网 oumi.ai 与仓库中的笔记本、示例配置使用。