efficient-dl-systems

学深度学习系统优化，从跑通代码到性能翻倍

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署基础设施 🍴 复刻 154 🐛 待处理 1 👀 关注 12

GitHub ↗

GitHub 星标 ★ 1052

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源课程材料，MIT许可证，完全免费，无付费版本。

项目预览

efficient-dl-systems 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类基础设施

开发团队mryab

GitHubhttps://github.com/mryab/efficient-dl-systems

定价模式🏷️完全免费

价格说明开源课程材料，MIT许可证，完全免费，无付费版本。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议MIT

主要语言Jupyter Notebook

技术栈/模型cuda,deep-learning,distributed-training,efficient-deep-learning,inference-optimization,machine-learning,ml-infrastructure,ml-systems,mlops,performance-optimization,pytorch

GitHub 星标★ 1052

上线时间2021-12-06 00:00:00

代码更新2026-05-28

仓库体积123.7 MB

本站数据更新2026-11-08

维护状态低维护

收录时间2026-08-09

浏览次数8

项目介绍

这是一个面向深度学习系统的高效实现课程材料仓库，由多伦多大学等机构维护，内容涵盖深度学习系统的高效训练、推理、部署等核心主题。项目通过Jupyter Notebook形式提供大量实践教程，帮助学习者理解如何优化深度学习系统的性能，包括算子融合、内存优化、并行计算、模型压缩等关键技术。它解决了深度学习工程师在构建高性能系统时缺乏系统化学习路径的问题，提供了从理论到代码的完整示例。核心能力包括：提供可运行的代码示例、覆盖主流框架（如PyTorch）的底层优化技巧、以及针对GPU等硬件的性能调优方法。适合希望深入理解深度学习系统底层原理、提升模型训练和推理效率的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1052

技术标签

cuda deep-learning distributed-training inference-optimization machine-learning

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：进阶约 10 分钟部署方式：本地安装 4 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

Python 环境与 Jupyter Notebook（仓库内容为 .ipynb 教程）
PyTorch（README 中的实践均基于 PyTorch）
NVIDIA GPU + CUDA 环境（内容涉及 GPU 架构、CUDA API 与分布式训练）
能访问 GitHub 克隆仓库的网络环境

安装与启动步骤

1克隆课程仓库

把课程材料仓库下载到本地，README 中的周次目录（如 week01_intro）都在仓库根目录下。
```
git clone https://github.com/mryab/efficient-dl-systems.git
```
2进入仓库目录

切换工作目录到刚克隆下来的仓库，后续用相对路径打开各周次 notebook。
```
cd efficient-dl-systems
```
3准备运行环境

README 本身未给出安装步骤，需按课程主题自行准备 PyTorch 与 CUDA；涉及分布式、profiling 的周次还需对应工具。
4启动 Jupyter

在仓库目录启动 Jupyter，浏览器中按周次目录（week01_intro、week02_fast_pipelines 等）逐个打开并运行 notebook。
```
jupyter notebook
```

如何确认成功

浏览器打开 Jupyter 页面后，能进入 week01_intro 等周次目录并成功加载、运行其中的 notebook。

常见问题

Q：需要 GPU 吗？

A：课程内容围绕 GPU 架构、CUDA API、混合精度与分布式训练展开，建议准备 NVIDIA GPU 与可用的 CUDA 环境；纯 CPU 下部分示例无法完整运行。

Q：材料对应哪个版本？

A：当前分支对应 2026 迭代；如需往年完整材料，请查看 README 中的 Past versions 部分。

Q：用的是什么框架？

A：README 的 seminar 均以 PyTorch 为例，包括 CUDA 操作、自动混合精度、PyTorch Distributed 与 Profiler。

Q：从哪里开始学？

A：按 README 的 Syllabus 顺序，从 Week 1 Introduction（week01_intro）开始，再依次进入后续周次。

注意事项

README 节选只包含课程大纲，没有安装命令、依赖版本或端口等部署信息，请以仓库内各周次目录的说明为准。
各周次涉及的工具不同（py-spy、PyTorch Profiler、Nsight Systems、PyTorch Distributed 等），按需分别安装。
仓库分支对应 2026 版课程；往年材料在 Past versions 中有链接。
运行 profiling、分布式等示例前，确认驱动、CUDA 与 PyTorch 版本相互匹配。