regression2chatgpt

从线性回归一路手写到大模型,边跑代码边看懂 ChatGPT

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 学习教育 🍴 复刻 54 👀 关注 2
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 293
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源免费,配套书籍代码

项目预览

regression2chatgpt 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类学习教育
开发团队GenTang
定价模式🏷️完全免费
价格说明开源免费,配套书籍代码
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Jupyter Notebook
GitHub 星标★ 293
上线时间2023-12-07 00:00:00
代码更新2026-08-17
仓库体积149.9 MB
本站数据更新2026-11-03
维护状态维护中
收录时间2026-09-15
浏览次数1

项目介绍

regression2chatgpt 是一套配套 Jupyter Notebook 教程代码,主题是「解构大语言模型」。它从最基础的线性回归出发,逐步推导到 Transformer、注意力机制与 ChatGPT 类模型的训练与推理原理,用可运行的代码把深度学习和大模型内部机制拆开讲清楚。项目面向想真正理解 LLM 而非只会调 API 的学习者,每个 notebook 对应一个概念,配合公式推导与可视化,帮助读者建立从回归到生成式模型的完整知识链条。核心能力包括:用最小实现演示梯度下降、反向传播、自注意力、位置编码、token 化与自回归生成;把抽象论文公式落到可执行代码上,便于边跑边改。适合作为课程配套、自学路线或教学演示材料,属于学习教育类开源项目。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-15 · 当前星标 ★ 293

核心亮点

  • 用 Jupyter Notebook 把从回归到 Transformer 的推导做成可运行代码,概念与实现一一对应
  • 覆盖注意力、位置编码、token 化、自回归生成等 LLM 关键机制,知识链条完整
  • 代码量小、依赖轻,适合教学演示和读者逐行修改实验

不足之处

  • 作为配套教程,缺少系统化文档与章节索引,新手需自行摸索学习顺序
  • 项目早期、社区规模小,更新频率与问题响应待观察

适用场景

  • 高校或培训课程中讲解大模型原理的配套实验材料
  • 开发者自学 Transformer 与 ChatGPT 内部机制时动手复现
  • 技术分享或内部分享中演示从回归到大模型的演进过程

替代项目

nanoGPT、minGPT、The Annotated Transformer

同类项目推荐

ai-notes 开源

工程师必备的 AI 学习笔记,快速跟上最新技术动态

notes for software engineers getting up to speed on new AI developments. Serves as d···

★ 6252 2026-08-09
tue-ai-safety-course 开源

跟着大学课表系统入门 AI 安全,资料一站看全

AI safety course at the University of Tübingen (Summer Semester 2026)

★ 151 2026-09-17
recommendations-for-engineers 开源

工程师成长推荐清单,一站式获取实用建议

All of my recommendations for aspiring engineers in a single place, coming from vari···

★ 163 2026-08-09
astronclaw-tutorial 开源

从零上手 AstronClaw 和 Loomy,快速搭建实用 AI 工作流

Astron Harness Tutorial: illustrated guides to AStudio, Loomy and AstronClaw. Biling···

★ 358 2026-08-09
Clew 开源

把学习目标变成清晰依赖图谱,一步步带你入门

AI learning harness with interactive maps of topics and prerequisites. Available as ···

★ 213 2026-08-09
ai-cookbook 开源

照着示例敲代码,快速构建你的AI应用

Examples and tutorials to help developers build AI systems

★ 4688 2026-08-09
rag-time 开源

五周从零上手 RAG,系统构建你的检索增强应用

RAG Time: A 5-week Learning Journey to Mastering RAG

★ 917 2026-08-09
aif-c01 开源

刷题背要点,助你拿下 AWS AI 认证

AWS Certified AI Practitioner (AIF-C01) exam preparation

★ 76 2026-08-09