distributed-ml-patterns

照着搭,快速搞定分布式机器学习系统

这是一个与 Manning 出版社书籍《Distributed Machine Learning Patterns》配套的开源项目,由 Yuan Tang 编写。它旨在为分布式机器学习系统的设计和实现提供一套可复用的模式(Patterns)和最佳实践。项目通过代码示例和文档,系统性地展示了如何解决分布式训练中的关键问题,如数据并行、模型并行、参数服务器架构、容错、弹性伸缩等。核心能力包括:提供清晰的模式分类和实现参考,帮助开发者理解分布式训练的工作原理,并快速在自己的项目中应用这些模式。项目以 Python 为主,适合希望从单机训练转向分布式训练的工程师,也适合系统架构师作为设计参考。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 540
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类基础设施
开发团队terrytangyuan
所属国家
官网地址
定价模式free
价格说明开源书籍配套代码,Apache-2.0 许可,完全免费。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型argo,argo-workflows,book,cloud-computing,cloud-native,data-science,devops,distributed-machine-learning,distributed-systems,kubeflow,kubernetes,large-scale-machine-learning,machine-learning,machine-learning-pipelines,manning-publications,mlops,python,tensorflow
GitHub 星标★ 540
30天Star增速
HF 下载量
上线时间2021-01-15 00:00:00
最近更新2026-09-22 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数3

使用教程

核心亮点

  • 模式分类清晰,从数据并行到参数服务器,覆盖分布式训练核心场景
  • 代码示例与书籍配套,理论实践结合,易于上手
  • 作者是知名 AI 工程师,内容质量有保障,适合作为团队内部培训材料

不足之处

  • 项目更新频率低,部分示例可能未适配最新深度学习框架版本
  • 文档/社区待观察

适用场景

  • 设计分布式训练架构时参考模式选型
  • 学习分布式机器学习原理,配合书籍阅读
  • 快速搭建原型,验证参数服务器或数据并行方案的可行性

替代项目

Horovod、Ray、Kubeflow

项目介绍

distributed-ml-patterns 是模型训练领域的开源项目,由 terrytangyuan 开发,2021 年首次发布。

它收录于模型训练分类,该分类目前共有 523 个项目,GitHub 星标数为 540。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-22。开源书籍配套代码,Apache-2.0 许可,完全免费。

它主要面向的使用场景是:设计分布式训练架构时参考模式选型。同类可对比的替代方案包括 Horovod、Ray、Kubeflow。

上一篇:sklearn-diagnose

下一篇:examples

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13