hyper-parallel
让大模型训练任务贴着超节点跑，减少跨域通信损耗
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-11-02 · 当前星标 ★ 116
核心亮点
- 围绕 SuperPod 拓扑做亲和性调度，思路针对大规模集群通信瓶颈
- 基于 PyTorch 生态，接入现有训练栈的改造成本相对可控
- 覆盖分布式训练与 LLM 场景，方向贴合当前大模型基础设施需求
不足之处
- 早期项目，文档与使用示例较少，上手需要读源码
- 缺少大规模生产环境的验证与性能基准数据
适用场景
- 自有 GPU 超节点集群上的大模型分布式训练性能优化
- 研究拓扑感知调度对训练通信开销的影响
- 为 AI 基础设施团队提供亲和性调度方案参考
替代项目
Megatron-LM、DeepSpeed、PyTorch FSDP
同类项目推荐
sagemaker-training-toolkit
开源
把训练脚本塞进容器，SageMaker 自动跑训练并上传模型
Train machine learning models within a Docker container using Amazon SageMaker.
Chattiori-Model-Merger
开源
按比例混合扩散模型，快速生成自定义风格模型
Merges latent diffusion models at a user-defined ratio
m-courtyard
开源
在 Mac 上零代码微调 AI 模型，数据不出本机。
M-Courtyard: Local AI Model Fine-tuning Assistant for Apple Silicon. Zero-code, zero···
SimpleTuner
开源
一条命令微调扩散模型，图像视频音频通吃
A general fine-tuning kit geared toward image/video/audio diffusion models.
opacus
开源
几行代码给 PyTorch 训练加差分隐私，防数据泄露
Training PyTorch models with differential privacy
ggufy
开源
一条命令把 safetensors 转成 GGUF，本地跑模型更省事
CLI/GUI tool for efficient and easy safetensors and gguf model conversion
prime-rl
开源
让智能体多轮强化学习训练轻松扩展到大规模
Agentic RL Training at Scale
mini-verl
开源
单张消费级显卡就能跑 PPO/GRPO 对齐训练
verl for a single consumer GPU. PPO, GRPO and on-policy distillation on NVIDIA GPUs.
terratorch
开源
一键微调遥感大模型，快速落地地理空间AI应用
A Python toolkit for fine-tuning Geospatial Foundation Models (GFMs).