scaling-book

读懂 TPU 上大模型扩展的短篇教材

开源 🏷️完全免费 ⏳ 访问状态待核验 学习教育 🍴 复刻 214 🐛 待处理 13 👀 关注 11
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 1496
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 免费在线阅读的开源教程

项目预览

scaling-book 项目界面预览图
图片来源:项目官网

项目数据

分类学习教育
开发团队jax-ml
定价模式🏷️完全免费
价格说明免费在线阅读的开源教程
访问状态⏳ 访问状态待核验
是否开源是
开源协议MIT
主要语言SCSS
技术栈/模型jax,llm-inference,llms,roofline,tpus
GitHub 星标★ 1496
上线时间2025-02-03 00:00:00
代码更新2026-10-19
仓库体积64.3 MB
本站数据更新2026-10-24
维护状态活跃
收录时间2026-10-24
浏览次数0

项目介绍

scaling-book 是《How To Scale Your Model》的官方主页与内容仓库,这是一本博客风格的短篇教材,专注讲解如何在 TPU 上扩展大语言模型。项目把 LLM 训练与推理中的关键工程问题拆成可读章节,覆盖 JAX 编程模型、TPU 硬件架构、Roofline 性能分析、并行策略、内存与通信开销等主题,帮助读者建立从单芯片到大规模集群的性能直觉。它解决的是 LLM 系统课资料分散、偏论文或偏工程细节、缺少系统入门路径的问题:用短章节加图示和公式,把算力、带宽、通信之间的权衡讲清楚。核心能力包括结构化的在线教材阅读体验、围绕 TPU 与 JAX 的实践视角、面向推理与训练的扩展性分析框架。适合工程师、研究者和学生作为系统性能与分布式训练的入门读物,也可作为团队内部培训材料。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-24 · 当前星标 ★ 1496

技术标签

使用教程

难度:入门 约 12 分钟 部署方式:本地安装 7 步

环境要求

  • Ruby 3.4.5 或以上版本,并确保正确版本在 PATH 中
  • ImageMagick

安装与启动步骤

  1. 1安装系统依赖

    在 macOS 上使用 Homebrew 一次性安装 ImageMagick 和 Ruby;其他系统需先用系统包管理器准备好这两项。

    brew install imagemagick ruby
  2. 2安装 Jupyter

    README 要求本机已安装 Jupyter,用 pip 安装即可,供仓库中相关文档内容使用。

    pip install jupyter
  3. 3确认 Ruby 版本

    检查当前使用的 Ruby 版本是否至少为 3.4.5;如果版本不符,需调整 PATH,指向新版 Ruby。

    ruby -v
  4. 4克隆仓库

    把 scaling-book 仓库拉到本地,后续的构建和启动都在这个目录里进行。

    git clone https://github.com/jax-ml/scaling-book.git
  5. 5安装 Ruby 依赖

    进入仓库目录后,用 Bundler 按项目记录安装构建网站所需依赖。

    cd scaling-book
    bundle install
  6. 6启动本地站点

    运行 Jekyll 本地服务开始构建,保持终端窗口不要关闭。

    bundle exec jekyll serve
  7. 7访问本地页面

    服务启动成功后,在浏览器打开本地地址即可阅读整本书。

如何确认成功

执行 jekyll serve 无报错后,浏览器打开 http://127.0.0.1:4000/scaling-book 能看到书的首页,说明构建成功。

常见问题

Q:非 macOS 系统怎么准备环境?

A:README 只给出 macOS 的 Homebrew 安装方式,其他系统需自备 Ruby(≥3.4.5)、ImageMagick 和 Jupyter,再执行相同的 bundle 与 jekyll 命令。

Q:运行时报 Ruby 版本不对怎么办?

A:README 强调必须保证 PATH 中取到的是至少 3.4.5 的 Ruby。检查 ruby -v 输出,必要时调整 PATH 顺序后重新执行 bundle install。

Q:本地主页打不开怎么办?

A:确认 jekyll serve 仍在运行且终端无构建错误,并注意访问地址带 /scaling-book 路径,端口为 4000。

Q:有没有免搭建的在线阅读方式?

A:有,官方站点 https://jax-ml.github.io/scaling-book 直接提供完整内容,本地运行只是为了修改和预览。

注意事项

  • README 明确本地访问路径包含 /scaling-book,不要只访问根路径。
  • 仓库主分支有新提交时,由 GitHub Action 自动部署到 GitHub Pages,本地仅用于预览。
  • 安装完成后先核对 ruby -v,版本不足会导致 bundle install 或构建失败。

核心亮点

  • 按章节组织,从硬件架构到并行策略形成完整学习路径
  • 聚焦 Roofline 与算力/带宽/通信权衡,给出可复用的性能分析框架
  • 以 TPU 和 JAX 为实例,内容贴近真实工程而非纯理论

不足之处

  • 内容强绑定 TPU 与 JAX 生态,对 GPU 或其他框架读者迁移成本较高
  • 以静态教材为主,缺少可运行代码与练习,动手验证环节偏弱

适用场景

  • 工程师系统学习 LLM 训练与推理的扩展性原理
  • 团队内部做 TPU/JAX 性能优化培训的参考资料
  • 学生或转行者建立分布式训练性能直觉的入门读物

替代项目

llm-course、ML-For-Beginners、ai-engineering-hub

上一篇:awesome-ai-engineering

下一篇:AI-Marker-Suite

同类项目推荐

ai-office-workshop 开源

零基础跟着教程做,现成 AI 代理直接上手就干活

江江教練的 AI 辦公室教學版|5/24 線上課「零基礎超新手實作場」教材。內建 19 位 AI 助理···

★ 1 2026-08-09
DrawingWithMachines 开源

从代码到画笔,打造你的第一台绘图机器

Resources for the CMU Drawing with Machines Course

★ 157 2026-08-09
universal-diagnostic-tutor-skill 开源

先测出你的知识漏洞,再对症下药,学啥都事半功倍

One diagnosis-first AI tutor for STEM, AI/CS, and beyond — no mode or command menu.···

★ 249 2026-08-09
autoquizzer 开源

输入链接,秒变互动测验,还能让 AI 自己答题

Generates a quiz from a URL. You can play the quiz, or let the LLM play it.

★ 72 2026-08-09
DeepMIR 开源

台大音乐AI课程材料,跟着讲义和代码从零玩转音乐分析与生成

Teaching material for the course "Deep Learning for Music Analysis and Generation" I···

★ 249 2026-10-12
Autopilot-Notes 开源

看笔记学自动驾驶,从BEV到大模型一站式梳理

自动驾驶笔记,以解析各模块知识点、整合行业优秀解决方案进行阐述,以帮助自己及有需要的···

★ 841 2026-08-09
astronclaw-tutorial 开源

从零上手 AstronClaw 和 Loomy,快速搭建实用 AI 工作流

从零到工作流,掌握 AstronClaw(云端)与 Loomy(桌面)的 AI 助手实战教程 | A complete···

★ 357 2026-08-09
aigc 开源

一本实战电子书,带你从零构建可落地的LLM应用架构

《构筑大语言模型应用:应用开发与架构设计》一本关于 LLM 在真实世界应用的开源电子书,介···

★ 1648 2026-08-09