项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 8777
使用教程
⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。
⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。
环境要求
- Python 环境(项目开发语言为 Python)
- 需准备 Megatron 训练侧环境
- 需准备 SGLang 推理/rollout 侧环境
- 按官方 Quick Start 文档完成环境准备与数据准备
安装与启动步骤
-
1克隆代码仓库
从 GitHub 拉取 slime 源码到本地,后续所有文档与示例都在仓库目录内。
git clone https://github.com/THUDM/slime.git -
2阅读快速开始
README 未直接给出安装命令,环境搭建、数据准备、训练启动均以官方 Quick Start 文档为准。
-
3查看示例用例
examples 目录提供快速开始未覆盖的使用案例,可按自己的训练场景参考。
-
4运行代码风格检查
README 给出的唯一可执行命令,提交前运行以保证代码风格一致。需先安装 pre-commit。
pre-commit run --all-files --show-diff-on-failure --color=always -
5透传引擎原生参数
SGLang 参数加 --sglang- 前缀即可使用;Megatron 参数被 slime 直接读取,无需包装代码。
-
6按需扩展配置
多轮/Agentic 场景可参考 PD 分离、SGLang YAML 配置、外部 rollout 引擎、增量权重同步等文档。
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
--sglang-<原生参数> | 否 | 为任意 SGLang 原生参数加前缀后透传给推理引擎 | --sglang-mem-fraction-static 0.8 |
SGLang Config (YAML) | 否 | 可选的 YAML 扩展,用于拓扑控制、异构服务组、按组覆盖等 | 见 docs/en/advanced/sglang-config.md |
如何确认成功
按官方 Quick Start 文档跑通示例训练,能看到 rollout、数据生成与训练流程正常输出即视为成功。
常见问题
Q:README 里为什么没有 pip install 之类的安装命令?
A:README 把环境搭建与训练启动的完整说明放在 docs/en/get_started/quick_start.md,需以该文档为准,本教程不虚构安装命令。
Q:想使用 SGLang 的某个高级参数怎么办?
A:给该参数加 --sglang- 前缀即可,例如把 --mem-fraction-static 写成 --sglang-mem-fraction-static。
Q:Megatron 的并行、优化器、checkpoint 参数怎么传?
A:slime 直接读取 Megatron 参数,无需额外包装代码,原有参数均可用。
Q:多轮对话或 Agentic 场景资源需求不同怎么办?
A:可参考 PD Disaggregation 文档,把 prefill 与 decode 分离部署,并可用 router 策略做会话亲和。
注意事项
- README 未给出具体安装命令,真实安装步骤请以官方 Quick Start 文档为准。
- 推理侧只选用 SGLang 作为单一 rollout 后端,深度优化其 serving、路由、缓存与权重同步能力。
- 生产环境训练/推理解耦、跨不同 GPU 型号部署时,可参考外部 rollout 引擎与从磁盘做全量/增量权重更新。
- 提交代码前请运行 pre-commit 保证风格一致,调试问题可参考 Debugging Guide。
核心亮点
- 训练与推理解耦,支持大规模并行采样,利于 RL 吞吐扩展
- 面向 RL Scaling 设计,适合 RLHF/RLVR 等后训练流程
- Python 实现,与主流分布式训练和推理后端兼容性较好
不足之处
- 项目较新,文档与最佳实践仍在完善中
- 生态与社区案例相对有限,长期维护待观察
适用场景
- 大模型 RLHF 后训练流水线搭建
- RLVR 可验证奖励强化学习训练
- 需要高吞吐采样的大规模 RL 实验
替代项目
OpenRLHF、verl、TRL
下一篇:tunix
同类项目推荐
CAME
开源
减少大模型训练显存,优化器也能自适应省内存
[ACL 2023] The official implementation of "CAME: Confidence-guided Adaptive Memory O···
lora-pilot
开源
一键启动 Docker,搞定 LoRA 训练与验证全流程
From dataset to trained LoRA to finished image or video. One browser workspace for y···
hypertune
开源
几行代码自动调参,快速找到最优模型参数
A library for performing hyperparameter optimization
OpenEBFM
开源
能量基基础模型的开源训练与扩展代码
Open-source code for training and scaling up energy-based foundation models.
sd-webui-bayesian-merger
开源
自动调参合并模型,告别手动试错
opinionated bayesian optimisation for stable diffusion models block merge
OneTrainer
开源
图形化界面搞定扩散模型训练,从 LoRA 到全量微调一站式完成。
OneTrainer is a one-stop solution for all your Diffusion training needs.
rlix
开源
让 RL 实验排队更聪明,GPU 等待时间更短
Run more RL experiments. Wait less for GPUs.
chatterbox-finetuning
开源
用你的数据训练专属多语言语音模型,支持声音克隆。
Fine-tuning toolkit for Chatterbox TTS & Chatterbox TURBO models. Supports 23 langua···
ms-swift
开源
一条命令微调千种大模型,从训练到部署全搞定
Use PEFT or Full-parameter to CPT/SFT/DPO/GRPO 600+ LLMs (Qwen3.8, DeepSeek-V4, GLM-···
