efficient-dl-systems

学深度学习系统优化,从跑通代码到性能翻倍

这是一个面向深度学习系统的高效实现课程材料仓库,由多伦多大学等机构维护,内容涵盖深度学习系统的高效训练、推理、部署等核心主题。项目通过Jupyter Notebook形式提供大量实践教程,帮助学习者理解如何优化深度学习系统的性能,包括算子融合、内存优化、并行计算、模型压缩等关键技术。它解决了深度学习工程师在构建高性能系统时缺乏系统化学习路径的问题,提供了从理论到代码的完整示例。核心能力包括:提供可运行的代码示例、覆盖主流框架(如PyTorch)的底层优化技巧、以及针对GPU等硬件的性能调优方法。适合希望深入理解深度学习系统底层原理、提升模型训练和推理效率的开发者。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 1038
维护状态 低维护
是否开源
定价模式 free

项目数据

分类基础设施
开发团队mryab
所属国家
官网地址
定价模式free
价格说明开源课程材料,MIT许可证,完全免费,无付费版本。
访问状态
是否开源
开源协议MIT
主要语言Jupyter Notebook
技术栈/模型cuda,deep-learning,distributed-training,efficient-deep-learning,inference-optimization,machine-learning,ml-infrastructure,ml-systems,mlops,performance-optimization,pytorch
GitHub 星标★ 1038
30天Star增速
HF 下载量
上线时间2021-12-06 00:00:00
最近更新2026-09-22 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数7

使用教程

难度:进阶 约 10 分钟 部署方式:本地安装 4 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Python 环境与 Jupyter Notebook(仓库内容为 .ipynb 教程)
  • PyTorch(README 中的实践均基于 PyTorch)
  • NVIDIA GPU + CUDA 环境(内容涉及 GPU 架构、CUDA API 与分布式训练)
  • 能访问 GitHub 克隆仓库的网络环境

安装与启动步骤

  1. 1克隆课程仓库

    把课程材料仓库下载到本地,README 中的周次目录(如 week01_intro)都在仓库根目录下。

    git clone https://github.com/mryab/efficient-dl-systems.git
  2. 2进入仓库目录

    切换工作目录到刚克隆下来的仓库,后续用相对路径打开各周次 notebook。

    cd efficient-dl-systems
  3. 3准备运行环境

    README 本身未给出安装步骤,需按课程主题自行准备 PyTorch 与 CUDA;涉及分布式、profiling 的周次还需对应工具。

  4. 4启动 Jupyter

    在仓库目录启动 Jupyter,浏览器中按周次目录(week01_intro、week02_fast_pipelines 等)逐个打开并运行 notebook。

    jupyter notebook

如何确认成功

浏览器打开 Jupyter 页面后,能进入 week01_intro 等周次目录并成功加载、运行其中的 notebook。

常见问题

Q:需要 GPU 吗?

A:课程内容围绕 GPU 架构、CUDA API、混合精度与分布式训练展开,建议准备 NVIDIA GPU 与可用的 CUDA 环境;纯 CPU 下部分示例无法完整运行。

Q:材料对应哪个版本?

A:当前分支对应 2026 迭代;如需往年完整材料,请查看 README 中的 Past versions 部分。

Q:用的是什么框架?

A:README 的 seminar 均以 PyTorch 为例,包括 CUDA 操作、自动混合精度、PyTorch Distributed 与 Profiler。

Q:从哪里开始学?

A:按 README 的 Syllabus 顺序,从 Week 1 Introduction(week01_intro)开始,再依次进入后续周次。

注意事项

  • README 节选只包含课程大纲,没有安装命令、依赖版本或端口等部署信息,请以仓库内各周次目录的说明为准。
  • 各周次涉及的工具不同(py-spy、PyTorch Profiler、Nsight Systems、PyTorch Distributed 等),按需分别安装。
  • 仓库分支对应 2026 版课程;往年材料在 Past versions 中有链接。
  • 运行 profiling、分布式等示例前,确认驱动、CUDA 与 PyTorch 版本相互匹配。

核心亮点

  • 提供可运行的Jupyter Notebook,理论与实践结合紧密
  • 覆盖算子融合、内存优化、并行计算等系统优化核心主题
  • 课程材料来自名校,内容系统且紧跟前沿

不足之处

  • 依赖特定硬件(如GPU)环境,部分示例无法在普通机器复现
  • 文档/社区待观察

适用场景

  • 深度学习系统性能调优学习
  • 训练推理框架底层原理研究
  • 高校研究生课程教学辅助

替代项目

MLSys-NYU-2022、DLSMU、efficient-deep-learning

项目介绍

efficient-dl-systems 是学习教育领域的开源项目,由 mryab 开发,2021 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(1,038)位列前 30%,在学习教育分类中处于中上游。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-22。开源课程材料,MIT许可证,完全免费,无付费版本。

它主要面向的使用场景是:深度学习系统性能调优学习。同类可对比的替代方案包括 MLSys-NYU-2022、DLSMU、efficient-deep-learning。

同类项目推荐

awesome-awesome-ai 开源

一站式导航AI资源,告别收藏夹吃灰

An awesome list for collecting awesome lists related to AI.

★ 136 2026-08-09
machine-learning 开源

免费学AI,从入门到实战,社区共建资源库

Learn AI together, for free. AI learning and teaching resources for everyone.

★ 231 2026-08-09
groundhog 开源

拆解 Cursor 原理,手把手教你造 AI 编程助手

Groundhog's primary purpose is to teach people how Cursor and all these other coding···

★ 405 2026-08-09
notebooks 开源

跟着最新视觉模型教程,边看边跑代码,快速上手实战

A collection of tutorials on state-of-the-art computer vision models and techniques.···

★ 9686 2026-08-10