LoongForge

一套框架,NVIDIA 和昆仑芯通吃,搞定大模型全流程训练

LoongForge 是一个面向大模型训练的统一高性能框架,支持在 NVIDIA GPU 和昆仑芯 XPU 上训练 LLM、VLM、扩散模型及具身智能模型。它解决了多模态与多硬件环境下训练框架割裂、迁移成本高的问题,提供从预训练、中训、SFT 到 LoRA 微调的完整训练流程,并集成 Megatron 等分布式策略。核心能力包括:统一的模型定义与训练接口,屏蔽底层硬件差异;针对昆仑芯 XPU 的深度优化,填补国产芯片训练框架空白;支持扩散模型和 VLA(视觉-语言-动作)等前沿任务,适配 Wan 等视频生成模型。项目处于早期阶段,代码结构清晰,适合研究机构和企业进行国产化训练栈探索。

开源 free 模型训练
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 578
维护状态 活跃
是否开源 是
定价模式 free

项目数据

分类模型训练
开发团队baidu-baige
所属国家
定价模式free
价格说明开源项目,免费使用
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型embodied,gpu,kunlun,llm,lora,megatron,mid-training,pretraining,sft,training,vla,vlm,wam,wan,xpu
GitHub 星标★ 578
30天Star增速
HF 下载量
上线时间2026-04-23 00:00:00
最近更新2026-09-24 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-13
浏览次数11

使用教程

核心亮点

  • 同时支持 NVIDIA GPU 和昆仑芯 XPU,降低国产芯片迁移成本
  • 覆盖预训练、SFT、LoRA、扩散模型和 VLA,训练场景全面
  • 集成 Megatron 分布式能力,适合大规模并行训练

不足之处

  • 早期项目,文档和社区生态待观察
  • 昆仑芯 XPU 的硬件普及度有限,实际验证场景可能较少

适用场景

  • 在国产算力集群上训练 LLM 或 VLM
  • 多模态扩散模型(如视频生成)的分布式训练
  • 具身智能 VLA 模型的微调与预训练

替代项目

Megatron-LM、DeepSpeed、ColossalAI

项目介绍

LoongForge 是模型训练领域的开源项目,由 baidu-baige 开发,是 2026 年新上线的项目。

它收录于模型训练分类,该分类目前共有 523 个项目,GitHub 星标数为 578。

近 43 天,它的 GitHub 星标从 344 增加到 578,净增 234。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-24。免费使用。

它主要面向的使用场景是:在国产算力集群上训练LLM或VLM。同类可对比的替代方案包括 Megatron-LM、DeepSpeed、ColossalAI。

上一篇:pruna

下一篇:lightly-train

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13