modern-llm-notebook

手写代码从零搭建现代大模型,26个实战Notebook带你入门

这是一个从零开始构建现代大语言模型的实战课程,基于 PyTorch 和 Jupyter Notebook 实现。项目包含 26 个可运行的 Notebook,覆盖 tokenizer、注意力机制、混合专家模型(MoE)、RLHF、推理、评估和蒸馏等核心主题。它旨在通过动手实践帮助学习者深入理解 LLM 的内部工作原理,而不只是停留在 API 调用层面。每个 Notebook 都设计为可独立运行,便于逐步学习。项目当前处于早期阶段,但内容结构清晰,适合有一定深度学习基础、希望深入 LLM 实现细节的开发者。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 216
维护状态 较活跃
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队walkinglabs
所属国家
定价模式free
价格说明开源课程,提供26个可运行的Jupyter Notebook,完全免费,无付费版本。
访问状态
是否开源是
开源协议NOASSERTION
主要语言Jupyter Notebook
技术栈/模型ai,attention,finetune,gpt,large-language-models,llm,notebook,pretrain,transformer,tutorial
GitHub 星标★ 216
30天Star增速
HF 下载量
上线时间2026-05-17 00:00:00
最近更新2026-09-24 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

核心亮点

  • 覆盖从 tokenizer 到 RLHF 的完整技术栈,知识体系全面
  • 每个 Notebook 可独立运行,边学边练,实践性强
  • 基于 PyTorch,代码风格清晰,适合二次开发和学习

不足之处

  • 文档/社区待观察
  • 项目处于早期,星标和贡献者较少,生态尚未成熟

适用场景

  • 深度学习开发者系统学习 LLM 内部实现
  • 高校或培训机构作为 NLP 课程实验教材
  • 研究者快速验证注意力、MoE 等模块的原型

替代项目

nanoGPT、minGPT、LLM101n

项目介绍

modern-llm-notebook 是学习教育领域的开源项目,由 walkinglabs 开发,是 2026 年新上线的项目。

它收录于学习教育分类,该分类目前共有 429 个项目,GitHub 星标数为 216。

项目保持着较活跃的维护节奏,最近一次代码更新于 2026-09-24。开源课程,提供26个可运行的Jupyter Notebook,完全免费,无付费版本。

它主要面向的使用场景是:深度学习开发者系统学习LLM内部实现。同类可对比的替代方案包括 nanoGPT、minGPT、LLM101n。

上一篇:autoquizzer

下一篇:Token-Print

同类项目推荐

awesome-awesome-ai 开源

一站式导航AI资源,告别收藏夹吃灰

An awesome list for collecting awesome lists related to AI.

★ 136 2026-08-09
machine-learning 开源

免费学AI,从入门到实战,社区共建资源库

Learn AI together, for free. AI learning and teaching resources for everyone.

★ 231 2026-08-09
groundhog 开源

拆解 Cursor 原理,手把手教你造 AI 编程助手

Groundhog's primary purpose is to teach people how Cursor and all these other coding···

★ 405 2026-08-09
notebooks 开源

跟着最新视觉模型教程,边看边跑代码,快速上手实战

A collection of tutorials on state-of-the-art computer vision models and techniques.···

★ 9686 2026-08-10