手把手教你剪枝、蒸馏、优化注意力，免费GPU跑通
这是 Manning 出版社《Rearchitecting LLMs》一书的官方代码仓库，聚焦大语言模型的结构性优化，涵盖深度/宽度剪枝、知识蒸馏和注意力机制优化三大核心主题。项目提供可运行的 Jupyter Notebook 教程，所有实验均可在免费的 Colab GPU 上执行，降低了学习门槛。它旨在帮助开发者深入理解 LLM 内部结构，并掌握在不显著损失性能的前提下压缩和加速模型的实际技能。代码库结构清晰，每个主题配有独立 notebook，包含理论讲解和动手实践，适合希望系统学习 LLM 优化技术的研究者或工程师。
llm-pruning、Textbooks Are All You Need、distilbert
Rearchitecting-LLMs 是模型训练领域的开源项目，由 peremartra 开发，2025 年首次发布。
它收录于模型训练分类，该分类目前共有 522 个项目，GitHub 星标数为 72。
项目保持着较活跃的维护节奏，最近一次代码更新于 2026-09-20。开源代码，可免费在Colab GPU上运行，无付费版本。
它主要面向的使用场景是：系统学习LLM结构优化理论并动手实践。同类可对比的替代方案包括 llm-pruning、Textbooks Are All You Need、distilbert。
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···
