Nemotron

一站式获取 Nemotron 模型训练配方与示例,快速上手微调。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 模型训练 🍴 复刻 474 🐛 待处理 96 👀 关注 35
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 2315
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0 许可证,完全免费,无付费版本。

项目预览

Nemotron 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类模型训练
开发团队NVIDIA-NeMo
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0 许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Jupyter Notebook
技术栈/模型ai,fine-tuning,model-training,nemotron,nvidia,reinforcement-learning
GitHub 星标★ 2315
上线时间2025-10-03 00:00:00
代码更新2026-11-05
仓库体积44.4 MB
本站数据更新2026-11-10
维护状态活跃
收录时间2026-08-10
浏览次数9

项目介绍

Nemotron 是 NVIDIA 官方的开发者资源中心,旨在为使用 Nemotron 模型进行训练和微调的开发者提供一站式支持。它解决了模型训练过程中配方分散、示例缺乏、数据集难找的问题,集中提供了训练配方(training recipes)、使用手册(cookbooks)、数据集以及端到端的参考示例。核心能力包括:覆盖从监督微调(SFT)到强化学习(RL)的完整训练流程,提供可直接运行的 Jupyter Notebook 示例,并整合了 NVIDIA 在 AI 训练领域的最佳实践。该项目主要面向需要基于 Nemotron 系列模型进行定制化训练或微调的开发者,帮助他们快速上手并降低训练门槛。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 2315

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:进阶 约 10 分钟 部署方式:本地安装 4 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Git 与可访问 GitHub 的网络环境
  • 支持 Jupyter Notebook 的 Python 环境
  • 足够的 GPU 显存与磁盘空间(模型规模从 8B 到 550B,部分需多 GPU)
  • 可访问 Hugging Face 以获取模型权重

安装与启动步骤

  1. 1克隆仓库

    把 Nemotron 仓库拉到本地,其中包含 docs 训练配方与 usage-cookbook 使用手册两大部分。

    git clone https://github.com/NVIDIA-NeMo/Nemotron.git
  2. 2查阅训练配方

    进入 docs/nemotron/ 下与目标模型同名的目录(如 lightning35、ultra3),阅读其中的 README 获取训练流程说明。

  3. 3选择使用手册

    在 usage-cookbook/ 下按模型和场景挑选,如 Ultra 长程 Agent、Super 生产部署、Nano 资源受限环境、Nano2-VL 多模态等。

  4. 4获取模型权重

    按 README 表格中的 Hugging Face 链接下载对应权重,注意权重体积大,需提前确认显存与磁盘容量。

    huggingface-cli download nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16

如何确认成功

克隆成功后可打开 docs/nemotron 与 usage-cookbook 目录,看到各模型的 README 与示例说明,即表示资源已就绪。

常见问题

Q:这个仓库能直接一键跑训练吗?

A:README 未提供统一的安装或训练命令,仓库是训练配方、使用手册与示例的集合,需按各模型目录下的 README 分别准备环境和权重。

Q:模型权重在哪里下载?

A:README 的模型表格中为每个模型给出了 Hugging Face 链接,例如 Nemotron 3 Ultra、Super、Nano、Nano2-VL 等,直接访问对应链接获取即可。

Q:该从哪个模型开始入手?

A:若资源有限,可先从面向资源受限环境的 Nemotron 3 Nano 30B A3B 或小体积的 Llama-3.1-Nemotron-Nano-8B-v1 入手,再考虑更大的 Ultra 系列。

Q:没有 GPU 可以运行吗?

A:README 未说明 CPU 运行方式,且表格中模型多为数十至数百 B 参数并涉及多 GPU 部署,建议先参考对应 Cookbook 的部署要求再决定硬件。

注意事项

  • README 节选以模型索引和 Cookbook 表格为主,没有给出统一的安装命令,实际步骤请以各模型目录下的 README 为准。
  • 不同模型的部署要求差异很大,Ultra 550B 明确需要多 GPU,小模型才有单卡或轻量部署的可能。
  • 部分模型(如 Nemotron 3 Super)提到 NVFP4、单张 B200 等特定硬件形态,选型前先确认硬件匹配。
  • 本教程中的模型下载命令为通用工具示例,具体获取方式请以 README 表格给出的 Hugging Face 链接为准。

核心亮点

  • 官方出品,与 NVIDIA Nemotron 模型深度绑定,示例可靠性高
  • 覆盖 SFT、RL 等完整训练流程,提供端到端参考实现
  • 包含精选数据集和实用 cookbook,降低上手门槛

不足之处

  • 高度绑定 NVIDIA 生态,对非 NVIDIA 硬件或框架支持有限
  • 文档/社区待观察

适用场景

  • 基于 Nemotron 模型进行领域微调
  • 学习 NVIDIA 模型训练最佳实践
  • 快速搭建强化学习训练流水线

替代项目

Hugging Face Transformers、Axolotl、LLaMA-Factory

上一篇:maestro

下一篇:surogate

同类项目推荐

MLFlowClient.jl 开源

在 Julia 中轻松接入 MLflow,跟踪实验、管理模型

Track experiments, log metrics, manage models — MLflow from Julia.

★ 59 2026-08-09
sagify 开源

一条命令把本地模型部署到 AWS SageMaker,省心省力

LLMs and Machine Learning done easily

★ 444 2026-08-09
Semi-supervised-learning 开源

一个代码库跑遍主流半监督算法,少标注也能训好模型

A Unified Semi-Supervised Learning Codebase (NeurIPS'22)

★ 1591 2026-10-17
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 65092 2026-08-09
OneGen 开源

一次前向传播,边生成边检索,让 LLM 知识问答更快更准。

[EMNLP 2024] OneGen: Efficient One-Pass Unified Generation and Retrieval for LLMs.

★ 149 2026-08-09
RLCSD 开源

用对比自蒸馏强化 RL 训练,让策略更稳更高效

Source code of paper "RLCSD: Reinforcement Learning with Contrastive On-Policy Self-···

★ 116 2026-08-09
CDM 开源

少步扩散蒸馏,让图像生成快如闪电

[NeurIPS 2026] Continuous-Time Distribution Matching for Few-Step Diffusion Distilla···

★ 156 2026-08-09
dpm-solver 开源

10步内完成扩散模型采样,图像生成提速数倍

Official code for "DPM-Solver: A Fast ODE Solver for Diffusion Probabilistic Model S···

★ 1860 2026-08-09
Qwen-VL-Series-Finetune 开源

用自有数据微调 Qwen-VL,快速得到专用视觉大模型

An open-source implementaion for fine-tuning Qwen-VL series by Alibaba Cloud.

★ 1983 2026-09-16