一篇看懂 LLM 高效化，从压缩到推理加速全攻略
这是一篇发表于 TMLR 2024 的综述论文，系统梳理了大语言模型（LLM）的高效化技术。它解决了 LLM 在实际部署中计算成本高、内存占用大、推理速度慢等核心问题，为研究者和工程师提供了全面的技术地图。内容涵盖模型压缩（量化、剪枝、蒸馏）、高效架构设计（注意力机制优化、MoE）、推理加速（投机采样、KV Cache 优化）、系统级优化（并行策略、算子融合）等多个维度。论文不仅分类整理了各类方法，还分析了不同技术的优缺点和适用场景，并附有大量参考文献和未来研究方向。该项目以开源形式发布，包含论文全文和配套的 GitHub 仓库，方便读者快速查阅和跟进最新进展。
⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。
1克隆仓库
把综述仓库完整下载到本地，README 没提供 pip/npm 等安装方式，克隆即可获得全部内容。
git clone https://github.com/AIoT-MLSys-Lab/Efficient-LLMs-Survey.git2进入仓库目录
切换到克隆后的目录，即可看到 README 及按主题整理的文献列表。
cd Efficient-LLMs-Survey3阅读综述全文
README 顶部给出 arXiv 地址，可直接打开论文全文（TMLR 2024 camera ready 版见 OpenReview）。
4按主题检索文献
仓库把量化、剪枝、蒸馏、MoE、KV Cache 等方向分类罗列，可用关键词在 README 中检索定位。
grep -i "pruning" README.md克隆后在本地能看到 README.md，打开可正常显示论文标题与分类文献列表即成功。
Q：这个项目需要安装依赖或下载模型吗？
A：不需要。它是综述论文仓库，README 未提供任何安装脚本，克隆后用 Markdown 阅读器查看即可，无需配置环境。
Q：论文最新版本去哪里看？
A：arXiv 页面 http://arxiv.org/abs/2312.03863 为持续更新版本；TMLR 2024 正式版可在 README 给出的 OpenReview 链接查看。
Q：如何引用这篇综述？
A：README 提供了 BibTeX 条目 wan2023efficient，按其中 title、author、journal、year 字段直接引用即可。
Q：想找某个方向（如剪枝）的论文怎么办？
A：README 将参数剪枝细分为结构化与非结构化剪枝等小节，按主题定位或搜索关键词即可，部分条目给出 Code 链接。
Awesome-LLM-Compression、Efficient-Transformers-Survey、LLM-Pruning-and-Quantization-Resources
Efficient-LLMs-Survey 是开源模型领域的开源项目，由 AIoT-MLSys-Lab 开发，2023 年首次发布。
在全站 13,014 个收录项目中，它的 GitHub 星标数（1,257）位列前 30%，在开源模型分类中处于中上游。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-08-21。无在线服务，完全免费。
它主要面向的使用场景是：研究者快速了解LLM高效化领域全貌，寻找研究方向。同类可对比的替代方案包括 Awesome-LLM-Compression、Efficient-Transformers-Survey、LLM-Pruning-and-Quantizati…。
Machine-Learning
开源
跟着博客笔记，边看边跑机器学习代码
All content related to machine learning from my blog
awesome-claude-fable-5-prompt-va···
开源
一站式掌握 Claude Fable 5 玩法，快速选型不踩坑
Ultimate Claude Fable 5 Guide 2026: Use Cases, Integrations & Benchmarks
Diffusion-Models-Papers-Survey-T···
开源
学视频生成怕绕路？这份资料库帮你理清
Diffusion model papers, survey, and taxonomy
CoreML-Models
开源
下载即用的苹果端 AI 模型库，免去转换烦恼
Core ML model zoo for iOS/macOS — PyTorch models converted to ready-to-use .mlpacka···