reasoning-from-scratch

从零手写推理模型，彻底搞懂 o1 原理

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 939 🐛 待处理 2 👀 关注 67

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 5814

维护状态较活跃

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0 许可证，完全免费，无付费版本。

项目预览

reasoning-from-scratch 项目界面预览图 — 图片来源：项目官网

项目数据

分类开源模型

开发团队rasbt

官网地址https://mng.bz/lZ5B

GitHubhttps://github.com/rasbt/reasoning-from-scratch

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0 许可证，完全免费，无付费版本。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Jupyter Notebook

技术栈/模型ai,artificial-intelligence,chain-of-thought,deep-learning,distillation,grpo,inference-time-scaling,large-language-models,llm,llms,machine-learning,math-reasoning,python,pytorch,reasoning,reasoning-models,reinforcement-learning,rlhf,test-time-compute

GitHub 星标★ 5814

上线时间2025-03-04 00:00:00

代码更新2026-11-02

仓库体积5.3 MB

本站数据更新2026-11-10

维护状态较活跃

收录时间2026-08-09

浏览次数5

项目介绍

reasoning-from-scratch 是一个从零开始实现推理大语言模型（LLM）的开源教程项目，基于 PyTorch 逐步构建。它旨在帮助开发者和研究者深入理解推理模型（如 o1 类模型）的内部工作原理，通过代码和文档拆解强化学习、思维链、奖励建模等关键环节。项目解决了当前推理模型黑盒化、难以定制的问题，让用户能够亲手训练一个具备基础推理能力的模型。核心能力包括：提供完整的模型架构、训练脚本、数据生成流程，以及详细的 Jupyter Notebook 讲解，覆盖从数据准备到强化学习微调的全链路。用户可以通过该项目学习如何设计奖励函数、应用策略梯度算法，并最终得到一个可运行的推理模型。项目代码结构清晰，适合作为教学和实验基础，也支持在此基础上进行二次开发。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 5814

技术标签

ai artificial-intelligence chain-of-thought deep-learning distillation

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：进阶约 10 分钟部署方式：本地安装 4 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

可访问 GitHub 的网络环境（用于克隆仓库）
Python 3 环境（项目为 Jupyter Notebook 代码，README 未指定版本）
可运行 .ipynb 的 Jupyter 环境
阅读官方书籍《Build a Reasoning Model (From Scratch)》以便对照章节代码

安装与启动步骤

1克隆代码仓库

从 GitHub 获取本项目官方源码，README 给出的源码仓库即为该地址，克隆到本地即可。
```
git clone https://github.com/rasbt/reasoning-from-scratch.git
```
2进入项目目录

切换到克隆下来的仓库目录，后续所有操作都在该目录内进行。
```
cd reasoning-from-scratch
```
3查看官方书籍页面

README 指向 Manning 书籍页面（https://mng.bz/lZ5B），代码与书中章节一一对应，建议先浏览目录。
4打开 Jupyter 阅读代码

仓库为 Jupyter Notebook 项目，用 Jupyter 打开 .ipynb 文件按章节阅读和运行，README 未提供依赖安装命令。
```
jupyter notebook
```