zero-to-sglang

从零手写 mini-sglang，读懂源码并提交第一个 PR

zero-to-sglang 是 SGLang 官方与 Datawhale 联合推出的 LLM 推理学习课程，面向想深入理解大模型推理引擎的开发者。它解决的是「会用推理框架但不懂内部原理」的断层问题：多数人只会调用 API，却说不清 KV Cache、连续批处理、调度器如何协同工作。课程分三步走——先讲清推理的核心概念与性能瓶颈，再带你从零手写一个 mini-sglang，把调度、显存管理、注意力计算等模块亲手实现一遍，最后对照阅读真实 SGLang 源码并完成人生第一个 PR。内容提供中英双语，技术栈覆盖 CUDA、KV Cache、推理引擎与基础设施，适合有一定 Python 和深度学习基础、希望从使用者进阶为贡献者的工程师。

开源 free 学习教育

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 972

维护状态活跃

是否开源是

定价模式 free

项目数据

分类学习教育

开发团队datawhalechina

所属国家

官网地址https://datawhalechina.github.io/zero-to-sglang

GitHubhttps://github.com/datawhalechina/zero-to-sglang

定价模式free

价格说明开源免费课程，Datawhale社区提供

访问状态

是否开源是

开源协议

主要语言Python

技术栈/模型cuda,datawhale,inference-engine,infra,kv-cache,llm,llm-inference,sglang,tutorial

GitHub 星标★ 972

30天Star增速

HF 下载量

上线时间2026-08-27 00:00:00

最近更新2026-09-18 00:00:00

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-09-16

浏览次数0

使用教程

核心亮点

官方 SGLang 团队与 Datawhale 联合出品，内容与真实源码强对齐
三步递进设计：概念讲解→手写 mini 引擎→读源码提 PR，路径完整
中英双语，降低中文开发者学习 LLM 推理底层门槛

不足之处

需要 CUDA 与深度学习基础，纯新手入门曲线较陡
作为课程类项目，代码与文档仍在迭代，社区规模待观察

适用场景

想转行或深入 LLM 推理引擎的算法/后端工程师系统学习
团队内部做 SGLang 或推理优化培训时的教学材料
准备给 SGLang 等开源推理项目提交 PR 前的实战热身

替代项目

vllm、llama.cpp

项目介绍

zero-to-sglang 是一个学习教育领域的开源项目，官方简介：Official SGLang x Datawhale course on LLM inference: understand inference, build a mini-sglang from scratch, then read the real SGLang source and land your first PR. Available in English and Chinese.。项目使用 Python 开发，在 GitHub 上获得 911 星标。

上一篇：AI-Compass

下一篇：Daily-LLM