mcore-bridge
让 Megatron 像 Transformers 一样简单，直接训 500+ 大模型
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-25 · 当前星标 ★ 106
核心亮点
- 覆盖 300+ 语言模型与 200+ 多模态模型的 Megatron-Core 定义，省去逐一手写并行结构
- API 设计对齐 Transformers，降低 Megatron 上手成本，支持 LoRA/PEFT 微调
- 与 ms-swift 生态集成，模型权重转换和训练流程可复用现有工具链
不足之处
- 项目处于早期，星标仅 101，社区规模和长期维护稳定性有待观察
- 模型列表更新依赖上游发布节奏，部分新模型的适配可能滞后
适用场景
- 多机多卡环境下训练 Qwen、DeepSeek 等前沿大语言模型
- 对多模态大模型（如 Qwen3-VL、Qwen3-Omni）做 Megatron 并行微调
- 团队已有 ms-swift 流程，希望把训练后端切换到 Megatron 以提升吞吐
替代项目
Megatron-LM、ms-swift、NeMo
下一篇：Fast-LLM
同类项目推荐
distill-sd
开源
把大模型蒸馏成小模型，低显存也能跑高质量图像生成
Segmind Distilled diffusion
VisionFoundry
开源
用合成图像训练VLM，低成本提升视觉感知能力
VisionFoundry: Teaching VLMs Visual Perception with Synthetic Images
dFactory
开源
几行代码微调扩散语言模型，省显存快验证
Easy and Efficient dLLM Fine-Tuning
training_hub
开源
一站式调用主流LLM训练算法，快速验证训练策略
An algorithm-focused interface for common llm training, continual learning, and rein···
LECO
开源
用LoRA轻量擦除扩散模型中的指定概念，不动原模型
Low-rank adaptation for Erasing COncepts from diffusion models.
Adaptive-MT-LLM-Fine-tuning
开源
微调开源大模型，让翻译更懂你的领域
Fine-tuning Open-Source LLMs for Adaptive Machine Translation
finetune-SAM
开源
把通用分割模型SAM微调到你的医学图像上，提升精度
This is an official repo for fine-tuning SAM to customized medical images.
AutoGrad-Engine
开源
600 行纯 C# 从零实现 GPT 训练与推理
A complete GPT language model (training and inference) in ~600 lines of pure C#, zer···
SPO
开源
分步优化扩散模型，让AI生图更懂审美
[CVPR 2025] Aesthetic Post-Training Diffusion Models from Generic Preferences with S···