项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 5223
使用教程
⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。
⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。
环境要求
- Python 环境（项目基于 Python 实现）
- 可支持超大规模 MoE 训练的 GPU 资源
- 按仓库最新文档准备对应深度学习依赖
安装与启动步骤
-
1克隆仓库
从 GitHub 获取 XTuner 源码，README 中给出的项目地址为 InternLM/xtuner。
git clone https://github.com/InternLM/xtuner.git -
2进入目录
切换到克隆下来的项目根目录，准备查看仓库内的说明文件。
cd xtuner -
3阅读中文说明
README 提供了简体中文入口 README_zh-CN.md，先阅读以获取安装与使用指引。
cat README_zh-CN.md -
4查找安装指引
当前 README 节选未包含安装命令，需在仓库文档或源码中查找安装方式，勿执行未知命令。
如何确认成功
README 未提供启动验证方式，需以官方最新文档为准；若按仓库指引安装成功，可正常导入 xtuner 模块。
常见问题
Q：XTuner V1 支持多大的 MoE 模型？
A：README 称 200B 规模 MoE 无需专家并行，600B 模型仅需节点内专家并行。
Q：支持多长序列训练？
A：README 称可在 64k 序列长度下训练 200B MoE 模型，无需序列并行。
Q：是否支持 DeepSpeed？
A：README 提到完整支持 DeepSpeed Ulysses 序列并行，最大序列长度可线性扩展。
Q：XTuner V1 何时发布？
A：2025/09 发布，是面向超大规模 MoE 模型的下一代训练引擎。
注意事项
- 当前 README 节选未提供 pip/conda/docker 等安装命令，请以仓库最新文档为准。
- XTuner V1 面向超大规模 MoE 训练，需要匹配的 GPU 资源与并行环境。
- README 提到 Dropless 训练、长序列支持与 DeepSpeed Ulysses 序列并行等特性，部署前建议确认硬件与依赖满足要求。
核心亮点
- 针对 MoE 稀疏激活优化，训练速度显著提升
- 内存管理高效，支持更大模型规模
- 并行策略自动化，降低分布式训练门槛
不足之处
- 文档/社区待观察
- 生态相对较新，周边工具链尚不完善
适用场景
- 大规模 MoE 模型预训练
- MoE 模型高效微调
- 资源受限环境下的超大模型训练
替代项目
DeepSpeed、Megatron-LM、FairScale
下一篇：EasyR1
同类项目推荐
benderopt
开源
无梯度也能调参，黑盒优化一键搞定
Black-box optimization library
UniRL
开源
一套框架搞定多种数据训练，强化学习不再各搞各的
UniRL is a Framework for Unified Multimodal Model Reinforcement Learning
Olive
开源
一条配置流水线，把模型量化优化到各种硬件上跑
Olive: Simplify ML Model Finetuning, Conversion, Quantization, and Optimization for ···
SMILE-factory
开源
用普通显卡微调大模型，LoRA 省显存快速上手
Finetune Falcon, LLaMA, MPT, and RedPajama on consumer hardware using PEFT LoRA
Latent-SFT
开源
让大模型在潜在空间里思考，推理更快更省token
Official implementation of Latent-SFT: teaching LLMs to reason with vocabulary-space···
OneGen
开源
一次前向传播，边生成边检索，让 LLM 知识问答更快更准。
[EMNLP 2024] OneGen: Efficient One-Pass Unified Generation and Retrieval for LLMs.
OpenRLHF
开源
基于 Ray 的强化学习框架，让大规模 RLHF 训练又快又稳
An Easy-to-use, Scalable and High-performance Agentic RL Framework based on Ray (PPO···
gpu-recipes
开源
在 GCP 上按配方跑通大模型训练与推理基准
Recipes for reproducing training and serving benchmarks for large machine learning m···
dLLM-RL
开源
给扩散大模型装上强化学习引擎，训练出 SOTA 的 TraDo 系列
[ICLR 2026] Official code for TraceRL: Revolutionizing post-training for Diffusion L···