项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 770
使用教程
ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。
环境要求
- 多卡 GPU（A100/H100）
- CUDA 12.4
- 大容量磁盘
安装与启动步骤
-
1克隆
训练小模型来编排工具调用。
git clone https://github.com/NVlabs/ToolOrchestra.git cd ToolOrchestra -
2建训练环境
Python 3.12。
conda create -n toolorchestra python=3.12 -y && conda activate toolorchestra -
3装训练依赖
flash-attn 与 flashinfer 都要。
pip install -r requirements.txt pip install flash-attn --no-build-isolation -
4下模型与数据
编排器与检索器分开准备。
git clone https://huggingface.co/nvidia/Nemotron-Orchestrator-8B
如何确认成功
小规模 rollout 能跑通，reward 有上升趋势。
注意事项
- 它的结论是「小模型编排 + 强工具」能打过单体大模型。
- 检索器要单独建环境，依赖冲突明显。
- 全量训练成本很高，先跑通推理再谈训练。
核心亮点
- 端到端强化学习训练，直接优化工具调用策略，而非仅模仿示例
- 支持复杂工作流编排，可处理多步骤、多工具协作任务
- 框架设计模块化，易于扩展新的工具和训练算法
不足之处
- 项目早期，文档和社区生态尚不完善
- 依赖强化学习技术，上手门槛较高
适用场景
- 训练大模型在客服场景中自动调用API和数据库工具
- 构建能自主规划并执行多步骤操作的科研助手
- 开发需要动态组合外部工具的企业级智能体
替代项目
LangChain、AutoGPT、RL4LMs
同类项目推荐
Scaling-Diffusion-Transformers-m···
开源
让扩散模型从小规模到大规模训练，超参数无需重调，省时省力。
[NeurIPS 2025] Official implementation for our paper "Scaling Diffusion Transformers···
pylate
开源
训练和部署晚期交互检索模型，提升语义搜索精度
Late Interaction Models Training & Retrieval
tempo
开源
把训练好的模型一键打包部署，快速上线生产环境
MLOps Python Library
MHLA
开源
用 token 级多头，让线性注意力恢复全量表达力
[ICLR 2026] MHLA: Restoring Expressivity of Linear Attention via Token-Level Multi-H···
perfusion-pytorch
开源
用少量样本给文本生成模型打补丁，实现精准图像编辑
Implementation of Key-Locked Rank One Editing, from Nvidia AI
comfyUI-Realtime-Lora
开源
在 ComfyUI 里直接训练、编辑和保存 LoRA，无需切换工具
Train and block edit and save LoRAs directly inside ComfyUI for Z-image, Flux Klein···
diffusion-pipe
开源
多卡流水线并行，低显存也能训大扩散模型
A pipeline parallel training script for diffusion models.
kg-llm
开源
用大模型补全知识图谱，论文级代码直接复现
Exploring large language models for knowledge graph completion. ICASSP 2025
arkor
开源
用 TypeScript 搞定大模型微调，工程化更顺滑
The Best TypeScript framework for fine-tuning