Automodel

Q: 如何把任务提交到集群？

安装 cli extra：uv pip install ＂nemo-automodel[cli]＂，它会把 NeMo Run 加到基础包中。

Hugging Face 模型直接多卡分布式微调，不改代码。

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署模型训练 🍴 复刻 357 🐛 待处理 494 👀 关注 11

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 1070

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源免费，NVIDIA NeMo AutoModel 训练库

项目预览

项目数据

分类模型训练

开发团队NVIDIA-NeMo

官网地址https://docs.nvidia.com/nemo/automodel/nightly

GitHubhttps://github.com/NVIDIA-NeMo/Automodel

定价模式🏷️完全免费

价格说明开源免费，NVIDIA NeMo AutoModel 训练库

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型agent,deepseek-v4,deepseek-v4-flash,finetuning,gemma3,gemma4,glm,gpt-oss,kimi-k3,llama,llama3,llm,minimax-m2,mistral,openai,qwen-38-27b,qwen3,qwen3-next,vlm

GitHub 星标★ 1070

上线时间2025-05-21 00:00:00

代码更新2026-11-02

仓库体积129.1 MB

本站数据更新2026-11-03

维护状态活跃

收录时间2026-09-16

浏览次数1

项目介绍

Automodel 是一个基于 PyTorch 分布式原生的 LLM/VLM 训练库，目标是让大模型微调像调用 Hugging Face 一样简单。它直接兼容 Hugging Face 生态，开箱即用，无需重写数据加载、模型定义或训练循环，就能把现有 HF 模型接入分布式训练。核心能力包括：支持张量并行、流水线并行、数据并行等混合并行策略，适配多卡和多机环境；覆盖 LLM 与视觉语言模型（VLM）两类训练任务；内置对 DeepSeek、Gemma、GLM、GPT-OSS、Kimi、Llama、Mistral、MiniMax 等主流模型结构的支持；提供微调（finetuning）与 agent 相关训练流程。它解决的是大模型训练中分布式配置复杂、与 HF 生态割裂、迁移成本高的问题，让研究者和工程团队用较低改造成本获得原生分布式训练能力。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 1070

技术标签

agent finetuning gemma4 glm gpt-oss

使用教程

难度：进阶约 20 分钟部署方式：库/依赖 6 步

环境要求

Python 环境，README 推荐使用 uv 管理可复现的虚拟环境
PyTorch（base 包已自带核心训练依赖，含 PyTorch）
多卡/多机分布式训练需要 NVIDIA GPU 与 CUDA（--extra cuda）
VLM（视觉语言模型）训练需额外安装 vlm、vlm-media 依赖
能访问 PyPI 与 Hugging Face 下载模型与依赖

安装与启动步骤

1获取项目代码

从 GitHub 克隆仓库到本地，后续所有示例路径都相对于仓库根目录。
```
git clone https://github.com/NVIDIA-NeMo/Automodel.git
cd Automodel
```
2创建虚拟环境

用 uv 创建隔离的 Python 虚拟环境，保证依赖可复现。
```
uv venv
```
3同步安装依赖

--frozen 按锁文件安装依赖；VLM 配方需追加 vlm、vlm-media 两个 extra。
```
uv sync --frozen
uv sync --frozen --extra vlm --extra vlm-media
```
4验证库可用

导入 nemo_automodel 并打印就绪信息，能输出即安装成功。
```
uv run python -c "import nemo_automodel; print('NeMo AutoModel ready')"
```
5运行微调配方

automodel（别名 am）按 YAML 配方启动训练；--nproc-per-node 指定每节点进程数。
```
uv run automodel examples/llm_finetune/llama3_2/llama3_2_1b_hellaswag.yaml --nproc-per-node 8
```
6可选安装 NeMo-Run

需要把任务提交到集群时，安装 cli extra，它是在 base 包之上的增量安装。
```
uv pip install "nemo-automodel[cli]"
```

关键配置

配置项	必填	说明	示例
`recipe.yaml`	是	配方文件，定义 recipe 类与全部训练参数	`examples/llm_finetune/llama3_2/llama3_2_1b_hellaswag.yaml`
`--nproc-per-node`	否	每个节点的训练进程数，通常等于本机 GPU 数	`8`

如何确认成功

执行 uv run python -c "import nemo_automodel; print('NeMo AutoModel ready')"，终端打印 NeMo AutoModel ready 即成功。

常见问题

Q：VLM 配方运行时报 ImportError: qwen_vl_utils is not installed 怎么办？

A：安装 vlm-media extra：uv sync --frozen --extra vlm --extra vlm-media；Qwen/Mistral/Omni 等视频视觉任务需要它。

Q：训练时用哪个 extra？

A：CUDA 相关用 --extra cuda，VLM 相关用 --extra vlm，例如 uv run --extra cuda <command>。

Q：有没有更短的命令别名？

A：automodel CLI 有短别名 am，两者等价；也可以统一写成 uv run automodel ...。

Q：如何把任务提交到集群？

A：安装 cli extra：uv pip install "nemo-automodel[cli]"，它会把 NeMo Run 加到基础包中。

Q：支持哪些模型结构？

A：内置支持 DeepSeek、Gemma、GLM、GPT-OSS、Kimi、Llama、Mistral、MiniMax 等主流模型，覆盖 LLM 与 VLM 训练。

注意事项

README 中的 <command> 是占位符，实际执行时要替换成具体命令。
base 包已包含 PyTorch 等核心训练依赖，extra 是增量安装，不要漏掉 VLM 场景所需的 vlm-media。
运行任何配方前先完成环境准备（uv venv + uv sync）。
所有配方均通过 YAML 配置驱动，修改训练参数应改 YAML 而非改代码。

核心亮点

原生兼容 Hugging Face，现有模型和数据集几乎零改造接入分布式训练
覆盖 LLM 与 VLM 两类模型，支持 DeepSeek、Llama、Gemma、GLM 等主流结构
基于 PyTorch 分布式原生实现，支持张量/流水线/数据并行等混合并行策略

不足之处

项目处于早期，星标约 954，生态和案例积累有限
文档与社区规模相对成熟训练框架仍有差距，生产验证待观察

适用场景

团队已有 Hugging Face 模型，想快速扩展到多卡多机微调
需要同时训练语言模型和视觉语言模型的研究项目
在自有集群上做 LLM 微调，希望减少分布式改造工作量

替代项目

DeepSpeed、Megatron-LM、Accelerate

上一篇：Tutel

下一篇：llm-engine