llm-scratch-pytorch

手把手用PyTorch从零写GPT,彻底搞懂大模型原理

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 对话助手 🍴 复刻 4 👀 关注 2
GitHub ↗
GitHub 星标 ★ 101
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,无付费版本。

项目预览

llm-scratch-pytorch 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类对话助手
开发团队skyloevil
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Jupyter Notebook
技术栈/模型ai,artificial-intelligence,chatgpt,cuda,gpt,gpt-2,language-model,llm,machine-learning,nvidia,pytorch,runpod,scratch,scratch-implementation,transformers,triton
GitHub 星标★ 101
上线时间2025-06-14 00:00:00
代码更新2026-01-27
仓库体积4.7 MB
本站数据更新2026-11-11
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

这是一个从零开始用PyTorch实现大语言模型(LLM)的教学型项目,面向初学者,通过逐步构建GPT-2风格的模型来理解LLM的核心原理。项目解决了“只懂调用API、不懂模型内部机制”的学习痛点,将复杂的Transformer架构拆解为可运行的代码步骤,涵盖数据预处理、注意力机制、多层堆叠、训练循环等关键环节。代码风格注重可读性和注释,配合Jupyter Notebook便于交互式学习,同时支持CUDA和RunPod环境,方便在GPU上实践。虽然星标数不高,但内容扎实,适合想深入掌握PyTorch和LLM底层实现的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 101

核心亮点

  • 逐步拆解GPT-2实现,代码注释详细,适合零基础入门
  • 基于Jupyter Notebook,可边看边跑,交互式学习体验好
  • 覆盖数据加载、模型构建、训练全流程,配套环境配置指南

不足之处

  • 项目处于早期,文档和社区支持待观察
  • 仅实现GPT-2级别模型,未涉及最新架构如Llama或MoE

适用场景

  • 学习PyTorch和Transformer架构的入门实践
  • 教学场景,用于高校或培训课程的大模型原理演示
  • 研究者快速验证模型修改效果的实验基底

替代项目

nanoGPT、minGPT、build-a-large-language-model-from-scratch

同类项目推荐

langchain-course 开源

跟着项目实战,快速上手LangChain智能体开发

A project-based course repository for developing AI agents using LangChain v1+ and L···

★ 1777 2026-08-09
Coding-Tutor 开源

训练AI导师逐轮纠错,让编程辅导更精准

[ACL 2025 Findings] Training Turn-by-Turn Verifiers for Dialogue Tutoring Agents: Th···

★ 92 2026-08-09
llm-books 开源

照着做,快速上手LLM应用开发

利用LLM构建应用实践笔记

★ 762 2026-08-09
llm-action 开源

从原理到实战,一站式掌握大模型工程化落地

本项目旨在分享大模型相关技术原理以及实战经验(大模型工程化、大模型应用落地)

★ 25271 2026-08-09
llm-agents-from-scratch 开源

不靠框架,手写代码从零搭出能调工具的 LLM Agent

Build LLM agents and multi-agent systems from scratch, with MCP, Skills, and A2A

★ 194 2026-09-16
oreilly-hands-on-gpt-llm 开源

跟着实战学LLM部署,从微调到上线一步到位

Mastering the Art of Scalable and Efficient AI Model Deployment

★ 145 2026-08-09