llms-from-scratch

手把手从零写一个 GPT,边写边懂原理

这是一个从零开始用 PyTorch 构建类 ChatGPT 大语言模型的教学项目,通过 Jupyter Notebook 逐步讲解每个实现细节。它解决的是初学者对 LLM 内部机制理解不透彻的问题,核心能力包括数据预处理、模型架构搭建、训练循环实现、推理与微调等完整流程。项目以代码为主、讲解为辅,让学习者能真正动手写出一个可运行的 GPT 模型,而非仅停留在调用 API 层面。

开源 free 对话助手
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 383
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类对话助手
开发团队analyticalrohit
所属国家
定价模式free
价格说明开源项目,MIT许可证,完全免费,可自行部署学习。
访问状态
是否开源是
开源协议MIT
主要语言Jupyter Notebook
技术栈/模型ai,artificial-intelligence,chatgpt,deep-learning,generative-ai,gpt,large-language-models,llms,llms-from-scratch,machine-learning,multihead-attention,neural-networks,python,pytorch,tokenization,transformers
GitHub 星标★ 383
30天Star增速
HF 下载量
上线时间2026-01-16 00:00:00
最近更新2026-08-29 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数6

使用教程

核心亮点

  • 逐步拆解模型构建,每个环节都有详细代码和解释
  • 基于 PyTorch,上手门槛低,适合深度学习初学者
  • 覆盖数据、模型、训练、推理全流程,体系完整

不足之处

  • 项目尚处早期,文档和社区支持待观察
  • 仅支持 Jupyter Notebook 环境,工程化部署示例缺失

适用场景

  • 深度学习入门者系统学习 LLM 原理
  • 高校课程或培训中作为动手实践教材
  • 开发者快速原型验证 GPT 架构设计

替代项目

nanoGPT、minGPT、build-a-gpt

项目介绍

llms-from-scratch 是学习教育领域的开源项目,由 analyticalrohit 开发,是 2026 年新上线的项目。

它收录于学习教育分类,该分类目前共有 430 个项目,GitHub 星标数为 383。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-08-29。MIT许可证,完全免费,可自行部署学习。

它主要面向的使用场景是:深度学习入门者系统学习LLM原理。同类可对比的替代方案包括 nanoGPT、minGPT、build-a-gpt。

上一篇:student-gpt-tools

下一篇:leetcode-explained

同类项目推荐

awesome-awesome-ai 开源

一站式导航AI资源,告别收藏夹吃灰

An awesome list for collecting awesome lists related to AI.

★ 136 2026-08-09
machine-learning 开源

免费学AI,从入门到实战,社区共建资源库

Learn AI together, for free. AI learning and teaching resources for everyone.

★ 231 2026-08-09
groundhog 开源

拆解 Cursor 原理,手把手教你造 AI 编程助手

Groundhog's primary purpose is to teach people how Cursor and all these other coding···

★ 405 2026-08-09
notebooks 开源

跟着最新视觉模型教程,边看边跑代码,快速上手实战

A collection of tutorials on state-of-the-art computer vision models and techniques.···

★ 9686 2026-08-10