distributed-ml-patterns 是模型训练领域的开源项目,由 terrytangyuan 开发,2021 年首次发布。
它收录于模型训练分类,该分类目前共有 523 个项目,GitHub 星标数为 540。
项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-22。开源书籍配套代码,Apache-2.0 许可,完全免费。
它主要面向的使用场景是:设计分布式训练架构时参考模式选型。同类可对比的替代方案包括 Horovod、Ray、Kubeflow。

照着搭,快速搞定分布式机器学习系统
这是一个与 Manning 出版社书籍《Distributed Machine Learning Patterns》配套的开源项目,由 Yuan Tang 编写。它旨在为分布式机器学习系统的设计和实现提供一套可复用的模式(Patterns)和最佳实践。项目通过代码示例和文档,系统性地展示了如何解决分布式训练中的关键问题,如数据并行、模型并行、参数服务器架构、容错、弹性伸缩等。核心能力包括:提供清晰的模式分类和实现参考,帮助开发者理解分布式训练的工作原理,并快速在自己的项目中应用这些模式。项目以 Python 为主,适合希望从单机训练转向分布式训练的工程师,也适合系统架构师作为设计参考。
Horovod、Ray、Kubeflow
distributed-ml-patterns 是模型训练领域的开源项目,由 terrytangyuan 开发,2021 年首次发布。
它收录于模型训练分类,该分类目前共有 523 个项目,GitHub 星标数为 540。
项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-22。开源书籍配套代码,Apache-2.0 许可,完全免费。
它主要面向的使用场景是:设计分布式训练架构时参考模式选型。同类可对比的替代方案包括 Horovod、Ray、Kubeflow。
上一篇:sklearn-diagnose
下一篇:examples
Long-RL
开源
让强化学习轻松驾驭超长序列,训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性,长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型,练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型,推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···