mcore-bridge

让 Megatron 像 Transformers 一样简单,直接训 500+ 大模型

mcore-bridge 是一个面向 Megatron-Core 的模型定义桥接库,目标是把 Megatron 的训练能力包装成类似 HuggingFace Transformers 的使用体验。它内置了 300 多个大语言模型(如 Qwen3-Next、GLM、DeepSeek、MiniMax 等)和 200 多个多模态大模型的 Megatron-Core 结构定义,让开发者不必从零手写并行切分、张量并行和流水线配置,就能直接加载这些模型并启动大规模训练。项目同时支持 LoRA、PEFT 等微调方式,并与 ms-swift 生态打通,适合需要在多卡、多机环境下训练或微调前沿大模型的团队。核心价值在于降低 Megatron 的使用门槛,把模型定义、权重转换和训练脚本统一起来,减少重复适配工作。

开源 free 模型训练
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 101
维护状态 活跃
是否开源 是
定价模式 free

项目数据

分类模型训练
开发团队modelscope
所属国家
官网地址
定价模式free
价格说明开源免费,基于Apache许可证
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型deepseek-r1,deepseek-v4,gemma4,glm-5,gpt-oss,llama4,llm,lora,megatron,minimax,ms-swift,peft,qwen3-5,qwen3-omni,qwen3-vl,transformers
GitHub 星标★ 101
30天Star增速
HF 下载量
上线时间2026-03-16 00:00:00
最近更新2026-09-23 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-25
浏览次数0

使用教程

核心亮点

  • 覆盖 300+ 语言模型与 200+ 多模态模型的 Megatron-Core 定义,省去逐一手写并行结构
  • API 设计对齐 Transformers,降低 Megatron 上手成本,支持 LoRA/PEFT 微调
  • 与 ms-swift 生态集成,模型权重转换和训练流程可复用现有工具链

不足之处

  • 项目处于早期,星标仅 101,社区规模和长期维护稳定性有待观察
  • 模型列表更新依赖上游发布节奏,部分新模型的适配可能滞后

适用场景

  • 多机多卡环境下训练 Qwen、DeepSeek 等前沿大语言模型
  • 对多模态大模型(如 Qwen3-VL、Qwen3-Omni)做 Megatron 并行微调
  • 团队已有 ms-swift 流程,希望把训练后端切换到 Megatron 以提升吞吐

替代项目

Megatron-LM、ms-swift、NeMo

项目介绍

mcore-bridge 是模型训练领域的开源项目,由 modelscope 开发,是 2026 年新上线的项目。

它收录于模型训练分类,该分类目前共有 522 个项目,GitHub 星标数为 101。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-23。开源免费,基于Apache许可证。

它主要面向的使用场景是:多机多卡环境下训练Qwen、DeepSeek等前沿大语言模型。同类可对比的替代方案包括 Megatron-LM、ms-swift、NeMo。

上一篇:Fairy-plus-minus-i

下一篇:没有了!

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13