项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-13 · 当前星标 ★ 836
技术标签
使用教程
⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。
环境要求
- 多卡 GPU（建议 8 卡）
- CUDA 12.x
- 大容量存储
安装与启动步骤
-
1准备 GPU 环境
百度的大模型训练框架，多后端架构。
nvidia-smi && docker --version -
2拉镜像
官方提供带 CUDA 的镜像。
docker pull <loongforge 镜像> -
3起容器
注意共享内存与 IPC 设置。
docker run --gpus all --ipc=host -it --rm <image> /bin/bash -
4跑示例训练
先用最小配置验证环境。
bash scripts/train_example.sh
如何确认成功
示例训练能跑完若干 step，loss 正常下降。
注意事项
- 不同模型族与规模要用不同后端，配置里别选错。
- 分布式训练对网络要求高，单机多卡先跑通。
- 文档以中文为主，先读 quickstart。
核心亮点
- 同时支持 NVIDIA GPU 和昆仑芯 XPU，降低国产芯片迁移成本
- 覆盖预训练、SFT、LoRA、扩散模型和 VLA，训练场景全面
- 集成 Megatron 分布式能力，适合大规模并行训练
不足之处
- 早期项目，文档和社区生态待观察
- 昆仑芯 XPU 的硬件普及度有限，实际验证场景可能较少
适用场景
- 在国产算力集群上训练 LLM 或 VLM
- 多模态扩散模型（如视频生成）的分布式训练
- 具身智能 VLA 模型的微调与预训练
替代项目
Megatron-LM、DeepSpeed、ColossalAI
上一篇：pruna
下一篇：lightly-train
同类项目推荐
shortened-llm
开源
压缩LLM，推理提速，显存减半，生成依旧流畅。
Compressed LLMs for Efficient Text Generation [ICLR'24 Workshop]
finetune-index-tts
开源
用笔记本微调 IndexTTS，打造专属声音模型
IndexTTS Fine-tuning notebooks
VeriThinker
开源
让模型学会自我验证，推理更快更准
[NeurIPS 2025] VeriThinker: Learning to Verify Makes Reasoning Model Efficient
spiral
开源
让AI在对抗博弈中练出深度推理
SPIRAL: Self-Play on Zero-Sum Games Incentivizes Reasoning via Multi-Agent Multi-Tur···
ROLL
开源
大模型强化学习训练，一键从单机扩到集群
An Efficient and User-Friendly Scaling Library for Reinforcement Learning with Large···
AutoTimes
开源
用大模型直接做时间序列预测，无需改架构
Official implementation for "AutoTimes: Autoregressive Time Series Forecasters via L···
gpu-recipes
开源
在 GCP 上按配方跑通大模型训练与推理基准
Recipes for reproducing training and serving benchmarks for large machine learning m···
MPO
开源
让LLM智能体先学会定计划，再动手执行，提升复杂任务成功率
MPO: Boosting LLM Agents with Meta Plan Optimization (EMNLP 2025 Findings)
doc-to-lora
开源
让大模型随时记住新知识，不用重训
Hypernetworks that update LLMs to remember factual information