项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-19 · 当前星标 ★ 139
核心亮点
- 专为 AMD ROCm 生态设计，填补主流框架对 AMD 支持不足的空白
- 集成多种分布式并行策略，支持大规模集群训练
- Python 实现，便于二次开发和自定义训练流程
不足之处
- 项目处于早期，文档和示例可能不完善
- 社区规模小，问题反馈和生态集成有待观察
适用场景
- 在 AMD GPU 集群上预训练百亿参数级大语言模型
- 为 AMD 平台定制分布式训练流程的科研团队
- 需要自主可控训练框架的企业进行模型微调
替代项目
Megatron-LM、DeepSpeed
下一篇：modalities
同类项目推荐
ml-engineering
开源
大模型训练推理踩坑指南，照着调优省半年时间
Machine Learning Engineering Open Book
Awesome-Parameter-Efficient-Fine···
开源
大模型轻量微调方法一网打尽，选型不再翻论文
Parameter-Efficient Fine-Tuning for Foundation Models
Dreambooth
开源
用几张照片微调扩散模型，让AI学会画你的专属对象
Fine-tuning of diffusion models
Fast-LLM
开源
让 LLM 训练跑满 GPU，少等快出结果
Accelerating your LLM training to full speed! Made with ❤️ by ServiceNow Research
RPG
开源
给大模型 RL 训练加上安全护栏，稳定提升性能
[ICLR 2026] RPG: KL-Regularized Policy Gradient (https://arxiv.org/abs/2505.17508)
OmniQuant
开源
把大模型压到4比特，速度更快内存更省，精度还不掉链子。
[ICLR2024 spotlight] OmniQuant is a simple and powerful quantization technique for L···
Medusa
开源
给大模型加几个解码头，生成速度翻倍，不用改架构
Medusa: Simple Framework for Accelerating LLM Generation with Multiple Decoding Head···
LlamaFactory
开源
上百种模型随意挑，教出你专属的 AI
Unified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)
VADER
开源
用奖励梯度微调视频模型，让生成结果更合你心意
Video Diffusion Alignment via Reward Gradients. We improve a variety of video diffus···