Efficient-LLMs-Survey

一篇看懂 LLM 高效化，从压缩到推理加速全攻略

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 102 🐛 待处理 2 👀 关注 26

GitHub ↗

GitHub 星标 ★ 1260

维护状态较活跃

是否开源开源

定价模式 🏷️完全免费开源项目，无在线服务，完全免费。

项目预览

Efficient-LLMs-Survey 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类开源模型

开发团队AIoT-MLSys-Lab

GitHubhttps://github.com/AIoT-MLSys-Lab/Efficient-LLMs-Survey

定价模式🏷️完全免费

价格说明开源项目，无在线服务，完全免费。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

技术栈/模型efficient-deep-learning,generative-ai,large-language-models,machine-learning-systems,survey

GitHub 星标★ 1260

上线时间2023-04-18 00:00:00

代码更新2026-10-30

仓库体积4.2 MB

本站数据更新2026-11-09

维护状态较活跃

收录时间2026-08-09

浏览次数3

项目介绍

这是一篇发表于 TMLR 2024 的综述论文，系统梳理了大语言模型（LLM）的高效化技术。它解决了 LLM 在实际部署中计算成本高、内存占用大、推理速度慢等核心问题，为研究者和工程师提供了全面的技术地图。内容涵盖模型压缩（量化、剪枝、蒸馏）、高效架构设计（注意力机制优化、MoE）、推理加速（投机采样、KV Cache 优化）、系统级优化（并行策略、算子融合）等多个维度。论文不仅分类整理了各类方法，还分析了不同技术的优缺点和适用场景，并附有大量参考文献和未来研究方向。该项目以开源形式发布，包含论文全文和配套的 GitHub 仓库，方便读者快速查阅和跟进最新进展。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1260

技术标签

generative-ai large-language-models survey

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：入门约 5 分钟部署方式：本地安装 4 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

已安装 git 命令行工具
可正常访问 GitHub 与 arXiv 的网络环境
能阅读 Markdown 文件的编辑器或浏览器（用于查看 README）

安装与启动步骤

1克隆仓库

把综述仓库完整下载到本地，README 没提供 pip/npm 等安装方式，克隆即可获得全部内容。
```
git clone https://github.com/AIoT-MLSys-Lab/Efficient-LLMs-Survey.git
```
2进入仓库目录

切换到克隆后的目录，即可看到 README 及按主题整理的文献列表。
```
cd Efficient-LLMs-Survey
```
3阅读综述全文

README 顶部给出 arXiv 地址，可直接打开论文全文（TMLR 2024 camera ready 版见 OpenReview）。
4按主题检索文献

仓库把量化、剪枝、蒸馏、MoE、KV Cache 等方向分类罗列，可用关键词在 README 中检索定位。
```
grep -i "pruning" README.md
```