llm_note
跟着笔记读源码，搞懂 LLM 推理与 Transformer 实现
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-14 · 当前星标 ★ 896
技术标签
使用教程
ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。
环境要求
- 无需运行环境
安装与启动步骤
-
1当笔记库读
内容涵盖模型推理、高性能计算、Transformer 结构与 vLLM 源码分析。
-
2按主题跳读
先看推理与 vLLM 部分，和线上部署关系最直接。
-
3配源码读
读到具体实现时对照对应版本源码，避免版本漂移。
-
4中文友好
作者用中文记录，术语解释比英文文档直白。
如何确认成功
能定位到目标主题的笔记并理解关键结论。
注意事项
- 笔记非教材，适合有一定基础后查漏补缺。
核心亮点
- 按推理、结构、框架源码分层组织，学习路径清晰
- 覆盖 KV Cache、Triton 内核、CUDA 等工程细节，不止停留在论文层面
- 对 vLLM 等框架做代码级分析，能对照真实实现理解调度与显存管理
不足之处
- 以笔记为主，缺少可运行示例与配套测试，动手验证成本较高
- 内容更新依赖作者维护，框架版本迭代后部分分析可能滞后
适用场景
- 准备面试或系统复习 LLM 推理原理时当作提纲
- 阅读 vLLM 源码前先看笔记建立整体框架认知
- 学习 Triton/CUDA 算子与 KV Cache 实现时作为参考材料
替代项目
vllm、nanoGPT
上一篇：easy-langent
同类项目推荐
llm-agents-from-scratch
开源
不靠框架，手写代码从零搭出能调工具的 LLM Agent
Build LLM agents and multi-agent systems from scratch, with MCP, Skills, and A2A
ChatTutor
开源
抽象概念画成图，边看边学，再难的知识也秒懂
ChatTutor: Visual and Interactive AI Tutor
hands-on-modern-rl
开源
从RL基础到LLM对齐，一门课搞定实践进阶
An open-source, hands-on curriculum bridging the gap from basic RL concepts to LLM a···
Made-With-ML
开源
照着学完就能上线 AI 应用，从零到生产不抓瞎
Learn how to develop, deploy and iterate on production-grade ML applications.
learn-modern-ai-python
开源
用AI和类型提示，边学边写出更稳的Python代码
Learn Modern AI Assisted Python with Type Hints
DL-for-Chatbot
开源
跟着教程用PyTorch从零搭建智能聊天机器人
Deep Learning / NLP tutorial for Chatbot Developers
DeepTutor
开源
让 AI 当你的终身私教，随时深度研究并个性化辅导
DeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.
DiffusionFromScratch
开源
单脚本从零重建Stable Diffusion，快速搞懂扩散模型原理
Rebuild the Stable Diffusion Model in a single python script. Tutorial for Harvard M···
8800-simulator
开源
在浏览器里拆装并运行 1975 年的 Altair 8800
Altair 8800 emulator in your browser: an Intel 8080 with a working front panel, the ···