Megatron-Bridge

Hugging Face 模型一键转 Megatron 训练,训完再转回来

开源 free 模型训练
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 951
维护状态 活跃
是否开源 是
定价模式 free

项目预览

项目数据

分类模型训练
开发团队NVIDIA-NeMo
所属国家
定价模式free
价格说明开源免费,NVIDIA NeMo生态训练库
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型
GitHub 星标★ 951
30天Star增速
HF 下载量
上线时间2025-05-21 00:00:00
代码更新—
仓库体积—
本站数据更新—
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-10-12
浏览次数0

项目介绍

Megatron-Bridge 是 NVIDIA 推出的训练库,用于训练基于 Megatron 的大规模语言模型,并支持与 Hugging Face 模型格式的双向转换。它解决的核心问题是:Megatron 训练框架性能强但生态封闭,模型权重难以直接用于 Hugging Face 生态;而 Hugging Face 模型又难以直接接入 Megatron 的高效并行训练。该库提供统一的桥接层,让用户可以把 Hugging Face 模型转换为 Megatron 格式进行大规模训练,训练完成后再转回 Hugging Face 格式用于推理、评测或发布。核心能力包括:双向权重转换、支持多种主流模型架构、与 Megatron-Core 并行策略集成、面向大规模分布式训练的配置管理。适合需要兼顾训练效率与生态兼容性的团队。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

核心亮点

  • 提供 Hugging Face 与 Megatron 之间的双向权重转换,打通训练与推理生态
  • 基于 Megatron-Core,可直接利用张量并行、流水线并行等大规模训练能力
  • 由 NVIDIA 官方维护,与 Megatron 生态版本同步较紧密

不足之处

  • 项目处于早期阶段,星标不足千,API 和文档可能快速变动
  • 对非 NVIDIA 硬件和部分小众模型架构的支持程度有待验证

适用场景

  • 将社区 Hugging Face 模型转为 Megatron 格式做大规模继续预训练
  • 用 Megatron 高效训练后转回 Hugging Face 格式进行评测和发布
  • 在多机多卡集群上统一管理模型格式转换与分布式训练流程

替代项目

Megatron-LM、DeepSpeed、NeMo

上一篇:finetrainers

下一篇:minAlphaFold2

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 63550 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1314 2026-08-13