Awesome-Efficient-LLM

高效LLM技术一网打尽,快速找到压缩加速方案

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 172 🐛 待处理 14 👀 关注 43
GitHub ↗
GitHub 星标 ★ 2048
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,完全免费,无付费版本。

项目预览

Awesome-Efficient-LLM 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队horseee
定价模式🏷️完全免费
价格说明开源项目,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
技术栈/模型compression,efficient-llm,knowledge-distillation,language-model,llm,llm-compression,model-quantization,pruning-algorithms
GitHub 星标★ 2048
上线时间2023-05-22 00:00:00
代码更新2025-06-17
仓库体积66.3 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数10

项目介绍

Awesome-Efficient-LLM 是一个精选资源列表,专注于高效大语言模型(LLM)领域。它系统整理了模型压缩、推理加速、架构优化、量化、剪枝、知识蒸馏等方向的前沿论文、开源工具和框架,帮助研究者和工程师快速了解高效LLM的技术全景。项目解决了LLM部署成本高、推理速度慢、资源消耗大等实际问题,通过分类整理和持续更新,降低了技术调研门槛。核心能力包括:按技术方向分类的论文清单、实用工具和库的索引、以及社区贡献的整合。适合作为高效LLM领域的入门导航和持续跟踪工具。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2048

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 5 分钟 部署方式:本地安装 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 可访问 GitHub 的网络环境
  • 任意浏览器或支持 Markdown 预览的编辑器
  • git 命令行工具(可选,用于克隆仓库)

安装与启动步骤

  1. 1克隆仓库

    把整个清单下载到本地,便于离线浏览和全文检索;也可直接在 GitHub 网页上阅读。

    git clone https://github.com/horseee/Awesome-Efficient-LLM.git
  2. 2进入项目目录

    进入仓库根目录,README.md 和各个分类 Markdown 文件都位于此处。

    cd Awesome-Efficient-LLM
  3. 3查看分类清单

    根目录按技术方向拆成多个 md 文件,如 pruning.md、quantization.md 等,可先列出再挑选。

    ls *.md
  4. 4按方向阅读论文

    打开感兴趣的分类文件,表格中给出论文标题、作者、会议及 Github/Paper 链接,可直接跳转。

  5. 5参与贡献列表

    README 中带有 Contributing 说明,可依其指引提交 PR,把自己的论文补充到对应分类文件。

如何确认成功

能打开 pruning.md、quantization.md 等分类文件并看到论文表格,即表示清单已完整获取。

常见问题

Q:需要安装 Python 依赖或环境吗?

A:不需要。README 只提供分类清单文件,未给出任何安装命令,克隆后直接阅读 Markdown 即可,无需配置 Python 环境。

Q:为什么主页上的论文很少?

A:README 明确说明主页面只展示最近 90 天内发布的论文,完整内容分布在各个子分类 Markdown 文件中。

Q:如何找到论文对应的开源代码?

A:论文表格中通常带有 Github 徽章与链接,点击即可跳转到对应仓库,部分仅提供 Paper 链接暂未开源。

Q:可以提交自己的论文吗?

A:可以。README 有 Contributing 章节,按其说明向对应分类文件添加条目并提交 PR 即可。

注意事项

  • 本项目是论文与工具索引清单,本身不包含可运行的模型代码。
  • 主页面仅展示最近 90 天论文,完整列表需进入各分类文件查看。
  • README 未提供安装说明,本教程仅为本地获取并阅读清单的通用准备动作。

核心亮点

  • 覆盖量化、剪枝、蒸馏、推理加速等全方向,分类清晰
  • 收录大量前沿论文和开源工具,信息密度高
  • 持续更新,社区活跃,紧跟最新研究

不足之处

  • 仅提供链接和简介,缺乏深入的技术对比或评测
  • 文档/社区待观察

适用场景

  • 调研高效LLM技术方案选型
  • 学习模型压缩与加速的基础知识
  • 寻找特定优化方向的论文或工具

替代项目

Awesome-LLM、Awesome-Model-Compression、Efficient-Transformers

上一篇:magicoder

下一篇:Chinese-LLaMA-Alpaca-3

同类项目推荐

LakonLab 开源

用流匹配加速图像生成,训练快、采样快、效果稳

Official implementation of AsymFlow, pi-Flow, GMFlow

★ 477 2026-08-09
MiniMax-M2.1 开源

让AI Agent 更靠谱地干活,开发提效

MiniMax M2.1, a SOTA model for real-world dev & agents.

★ 543 2026-08-09
awesome-local-llms 开源

一表对比本地大模型项目,看星标和活跃度选型

Compare compatible open-source local LLM projects by their metrics to assess popular···

★ 812 2026-09-16
InternLM-XComposer 开源

让AI边看视频边聊天,长时音视频实时理解不丢上下文

InternLM-XComposer2.5-OmniLive: A Comprehensive Multimodal System for Long-term Stre···

★ 2928 2026-08-09
Awesome-LLM-Strawberry 开源

一站式追踪 o1 推理前沿,快速上手慢思考模型

A collection of LLM papers, blogs, and projects, with a focus on OpenAI o1 and reas···

★ 6901 2026-08-09
EVE 开源

去掉视觉编码器,直接用像素训练多模态模型,更简单高效。

EVE Series: Encoder-Free Vision-Language Models from BAAI

★ 376 2026-08-09
web-stable-diffusion 开源

浏览器里跑Stable Diffusion,无需服务器,隐私又省钱

Bringing stable diffusion models to web browsers. Everything runs inside the browser···

★ 3731 2026-08-09
LlamaGen 开源

用语言模型的方式生成图像,自回归也能打败扩散模型

Autoregressive Model Beats Diffusion: Llama for Scalable Image Generation

★ 1972 2026-08-09