一条命令搞定 LLM 微调、评估与部署，让模型落地更简单。
oumi 是一个专注于开源大语言模型（LLM）微调、评估和部署的全流程工具包。它旨在简化从模型选择到生产部署的复杂流程，支持 Qwen、Gemma、Llama 以及最新的 GPT-OSS 等主流开放权重模型。项目提供统一的命令行接口和 Python API，内置了数据预处理、多种微调策略（如 LoRA、全参数微调）、DPO 对齐、标准评估基准（如 lm-eval）以及高效的推理服务（如 vLLM 集成）。通过模块化设计，oumi 降低了用户上手门槛，使开发者能够快速迭代模型，并针对特定任务进行优化。其核心能力包括：灵活的数据集加载与处理、可扩展的训练器、自动化的评估流程，以及一键式部署方案，解决了从研究到落地过程中的工程复杂性。
1安装 oumi
README 推荐使用 pip（uv pip install）方式安装 oumi 包，安装完成后即可使用 oumi 命令行。
uv pip install oumi2或用 Docker 镜像
不想在本地装依赖时，可拉取官方镜像并以交互方式运行 oumi 命令，注意该命令需要 GPU 环境。
docker run --gpus all -it ghcr.io/oumi-ai/oumi:latest oumi --help3验证命令可用
执行 oumi 的帮助命令，能正常输出 CLI 帮助说明即表示安装或镜像启动成功。
oumi --help4跑通入门示例
README 提供多个可直接在 Colab 打开的 Notebook，如 A Tour、微调教程、评估、蒸馏等，适合零环境快速体验。
5提交远程任务
需要更大算力时，可用 oumi launch 在 AWS、Azure、GCP、Lambda 等云平台运行任务，具体参数请参考官方文档。
oumi launch执行 oumi --help 能正常输出 CLI 帮助信息，或 docker run 后成功进入 oumi 命令行，即表示部署成功。
Q：必须用 uv 安装吗？
A：README 的安装章节标题为“Using pip (Recommended)”，给出的命令是 uv pip install oumi，属于 pip 体系安装方式；如本机没有 uv，也可按同等 pip 语义安装。
Q：没有 GPU 能用吗？
A：Docker 方式给出的命令带 --gpus all，说明需要 GPU 环境；没有本地 GPU 时，可改用 README 提供的 Colab Notebook 试用。
Q：怎么快速体验微调和评估？
A：直接打开 README 中列出的 Colab Notebook，例如 Model Finetuning Guide（LoRA 微调）和 Model Evaluation，无需本地配置环境。
Q：怎么把任务放到云上跑？
A：使用 oumi launch 命令，README 说明其支持 AWS、Azure、GCP、Lambda 等平台，具体子命令与参数需查阅官方文档。
LLaMA-Factory、Axolotl、Hugging Face TRL
oumi 是模型训练领域的开源项目，由 oumi-ai 开发，2024 年首次发布。
在全站 13,014 个收录项目中，它的 GitHub 星标数（9,388）位列前 6%，在模型训练分类的 518 个项目里位列前 6%。
近 44 天，它的 GitHub 星标从 9,368 增加到 9,388，净增 20。
项目目前处于活跃维护状态，最近一次代码更新于 2026-09-21。从国内网络环境看，可直接访问。
它主要面向的使用场景是：针对特定领域数据对开源LLM进行快速微调。同类可对比的替代方案包括 LLaMA-Factory、Axolotl、Hugging Face TRL。
下一篇：Kiln
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···