llm-internals

手把手拆解大模型内部原理,从分词到推理优化

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 203 👀 关注 19
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 1771
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0 许可证,完全免费,无付费版本。

项目预览

llm-internals 项目界面预览图
图片来源:项目官网

项目数据

分类开源模型
开发团队amitshekhariitbhu
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0 许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
技术栈/模型attention-is-all-you-need,attention-mechanism,large-language-models,learn-llm,llm,llm-internals
GitHub 星标★ 1771
上线时间2026-04-12 00:00:00
代码更新2026-11-07
仓库体积292 KB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数3

项目介绍

llm-internals 是一个循序渐进讲解大语言模型内部原理的开源教程项目,覆盖从分词、注意力机制到推理优化的完整技术链路。它通过图文、代码示例和逐步拆解的方式,帮助开发者深入理解 LLM 的底层工作机制,解决‘会用但不懂原理’的痛点。项目内容结构化,适合作为系统学习 LLM 内部实现的入门到进阶资料。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1771

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 10 分钟 部署方式:本地安装 6 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 可访问 YouTube 等外部站点的网络环境
  • 本机已安装 Git(用于克隆仓库)
  • 对 LLM 基本原理感兴趣的初学者或开发者,无强制编程环境要求

安装与启动步骤

  1. 1克隆仓库

    把项目下载到本地。该仓库是图文与视频教程集合,不含需要编译运行的代码。

    git clone https://github.com/amitshekhariitbhu/llm-internals
  2. 2阅读总目录

    进入仓库目录并打开 README,按从上到下顺序了解 LLM、RAG、MCP、Agent 等章节。

    cd llm-internals
  3. 3先学 LLM 基础

    观看 README 首节视频,建立 LLM、RAG、MCP、Agent、微调、量化的整体概念。

  4. 4学习分词

    观看 Tokenization 章节视频,理解为什么 LLM 需要先把文本切分为 token。

  5. 5学习 BPE

    阅读 Byte Pair Encoding 博客,跟着简单示例理解 BPE 如何把文本切成更小片段。

  6. 6持续跟进更新

    该系列会不断新增博客和视频,可定期回到仓库查看是否有新章节。

如何确认成功

能打开仓库 README,并成功访问其中列出的视频与博客链接,即说明学习环境已就绪。

常见问题

Q:需要安装 Python 或深度学习框架吗?

A:不需要。README 未给出任何安装或运行命令,仓库以讲解内容和外部视频、博客链接为主,有浏览器即可学习。

Q:内容以后会增加吗?

A:会。README 明确说明该系列会随着作者撰写更多博客、制作更多视频而持续增长。

Q:视频点开看不了怎么办?

A:README 中的视频托管在 YouTube,需要具备可访问该站点的网络环境;也可直接阅读同主题的博客章节。

Q:适合什么基础的人看?

A:适合从入门到进阶、想系统理解大模型内部机制的开发者,尤其适合“会用但不懂原理”的读者。

注意事项

  • README 仅提供学习内容与外部链接,未包含安装、运行或部署命令,因此无法给出可执行的服务启动步骤。
  • 视频链接均指向 YouTube,需要相应网络访问条件。
  • 项目由 Outcome School 创始人 Amit Shekhar 维护,官方课程页为 https://outcomeschool.com/program/ai-and-machine-learning。

核心亮点

  • 内容覆盖全面,从 tokenization 到 attention 再到推理优化,形成完整知识链
  • 采用 step-by-step 教学方式,配合代码示例,易于动手实践
  • 针对推理优化等实用主题,能直接帮助提升模型部署效率

不足之处

  • 文档/社区待观察
  • 更新频率和深度可能受限于维护者个人精力

适用场景

  • 开发者系统学习 LLM 内部原理
  • AI 工程师深入理解模型以优化推理性能
  • 教学培训中作为 LLM 原理课程的辅助教材

替代项目

llm-courses、Hugging Face NLP Course、Andrej Karpathy 的 Zero to Hero

上一篇:Paper-Notes

下一篇:llm-from-scratch

同类项目推荐

tiny-llm 开源

在苹果芯片上从零手写一个迷你 vLLM,吃透推理服务

learn LLM inference system on Apple Silicon for systems engineers: build a tiny vLLM···

★ 5695 2026-08-09
AI-pdf-books 开源

AI/数据工程师的PDF书库,一次找齐系统学习资料

The AI/Data book repository for AI Engineers, ML Engineers, LLMOps, MLOps, and Data ···

★ 500 2026-10-09
mlops-zoomcamp 开源

免费系统学 MLOps,从零搭建生产级机器学习流程

Free MLOps course from DataTalks.Club. Register here to get notified about the next···

★ 15536 2026-08-09
From-Zero-to-AGI 开源

从零起步,一张图走完 AGI 学习路线

从零走向AGI之路!!!旨在深入了解通用人工智能(AGI)的发展路径,从最基础的概念起,逐···

★ 285 2026-10-02
llm-action 开源

从原理到实战,一站式掌握大模型工程化落地

本项目旨在分享大模型相关技术原理以及实战经验(大模型工程化、大模型应用落地)

★ 25266 2026-08-09
zero2Agent 开源

系统备战大厂Agent面试,技术路线+八股文一站搞定

面向大厂Agent研发岗位求职的agent教程网站,涵盖技术路线与面试八股文

★ 1055 2026-08-09
eduNest 开源

说个主题就自动生成课件,还能语音互动讲课

AI 驱动的全场景互动教育与自动化课件生成 Monorepo 平台 | AI Interactive Education Pla···

★ 105 2026-10-16
zero-to-sglang 开源

从零手写 mini-sglang,读懂源码并提交第一个 PR

Official SGLang x Datawhale course on LLM inference: understand inference, build a m···

★ 1744 2026-09-16