
Primus
在 AMD GPU 上高效训练大模型,开箱即用
Primus 是面向 AMD GPU 的大规模基础模型训练框架,目标是在 AMD 硬件上提供灵活且高性能的分布式训练能力。它解决的核心问题是:主流训练框架(如 Megatron、DeepSpeed)对 AMD ROCm 生态支持有限,用户难以直接在 AMD 集群上高效训练大模型。Primus 通过整合分布式并行策略(数据并行、张量并行、流水线并行等)、混合精度训练、通信优化和显存管理,让开发者能在 AMD GPU 集群上完成从中小规模到超大规模模型的预训练与微调。项目以 Python 实现,强调可扩展性与性能,适合需要构建自主可控训练栈的团队。当前项目处于早期阶段,星标数较少,但方向明确,填补了 AMD 生态在大模型训练框架上的空白。
开源
free
模型训练
GitHub 星标
★ 127
维护状态
活跃
是否开源
是
定价模式
free
项目数据
分类模型训练
开发团队AMD-AGI
所属国家
定价模式free
价格说明开源免费,基于ROCm生态
访问状态
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型amd-gpu,distributed-training,training,training-at-scale
GitHub 星标★ 127
30天Star增速
HF 下载量
上线时间2025-02-24 00:00:00
最近更新2026-09-18 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-19
浏览次数0
使用教程
核心亮点
- 专为 AMD ROCm 生态设计,填补主流框架对 AMD 支持不足的空白
- 集成多种分布式并行策略,支持大规模集群训练
- Python 实现,便于二次开发和自定义训练流程
不足之处
- 项目处于早期,文档和示例可能不完善
- 社区规模小,问题反馈和生态集成有待观察
适用场景
- 在 AMD GPU 集群上预训练百亿参数级大语言模型
- 为 AMD 平台定制分布式训练流程的科研团队
- 需要自主可控训练框架的企业进行模型微调
替代项目
Megatron-LM、DeepSpeed
项目介绍
下一篇:modalities
同类项目推荐
Long-RL
开源
让强化学习轻松驾驭超长序列,训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性,长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型,练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型,推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···