Awesome-Efficient-Reasoning-LLMs

让大模型少想快答,推理效率提升指南

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 44 🐛 待处理 2 👀 关注 7
GitHub ↗
GitHub 星标 ★ 794
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,无在线服务,需自行部署,完全免费。

项目预览

Awesome-Efficient-Reasoning-LLMs 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队Eclipsess
定价模式🏷️完全免费
价格说明开源项目,无在线服务,需自行部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
技术栈/模型efficiency,large-language-models,large-reasoning-models
GitHub 星标★ 794
上线时间2025-03-19 00:00:00
代码更新2026-10-20
仓库体积4.3 MB
本站数据更新2026-11-10
维护状态较活跃
收录时间2026-08-09
浏览次数4

项目介绍

这是一个关于大语言模型高效推理的论文清单,对应TMLR 2025论文《Stop Overthinking: A Survey on Efficient Reasoning for Large Language Models》。项目系统梳理了LLM推理效率优化的前沿方法,涵盖推理压缩、思维链剪枝、早期退出、模型蒸馏等多个技术方向,并按照方法类别、任务场景、效率指标等维度进行组织。旨在帮助研究者和工程师快速了解如何在不牺牲推理质量的前提下,降低计算开销和响应延迟。核心能力包括:分类整理高效推理技术、提供论文与代码链接、对比不同方法的效率与性能权衡。适合作为该领域的入门导航和工具手册。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 794

使用教程

难度:入门 约 8 分钟 部署方式:无需安装 4 步

环境要求

  • 无需环境(读清单)

安装与启动步骤

  1. 1看清单

    高效推理(蒸馏、量化、稀疏)方向的论文汇总。

    https://github.com/eclipsess/Awesome-Efficient-Reasoning-LLMs
  2. 2按技术路线分

    清单按蒸馏、RL、剪枝等分组。

    在页面内搜索:Distillation
  3. 3挑一个能跑的

    优先选有官方代码且权重开放的。

    看 Code 列是否有链接
  4. 4本地验证

    拿一个小模型做量化对比,比读十篇更有效。

    llama.cpp 量化后测 tokens/s

如何确认成功

你能说清三种加速手段各自牺牲了什么。

注意事项

  • 推理模型(长思维链)对效率优化更敏感,别只看准确率。
  • 清单更新频繁,用最近一年的工作。
  • 评测口径不一致时,论文里的加速比不可直接比较。

核心亮点

  • 分类清晰,按方法/任务/效率指标多维度组织,检索方便
  • 每篇论文附代码链接,可直接复现或参考实现
  • 基于TMLR 2025综述,权威性和时效性强,覆盖最新研究

不足之处

  • 项目为论文清单,非工具或框架,需自行阅读论文实践
  • 文档/社区待观察

适用场景

  • 科研人员调研LLM推理加速技术方向
  • 工程师为生产环境选择低延迟推理方案
  • 学生快速入门高效推理研究领域

替代项目

Awesome-LLM-Reasoning、Awesome-Reasoning-Foundation-Models、Chain-of-ThoughtsHub

上一篇:Awesome-Parallel-Reasoning

下一篇:Awesome-VLA

同类项目推荐

docker-stable-diffusion-taiyi 开源

一键启动中文AI绘画,Docker跑太乙模型

带 Web UI 的 Docker taiyi (太乙),中文 Stable Diffusion WebUI 一键运行环境。

★ 89 2026-08-09
openjourney 开源

免费复刻 Midjourney 风格,本地跑起艺术生成

A fine-tuned model based on Stable Diffusion to create images in the style of Midjou···

★ 80 2026-08-09
CMLM-ZhongJing 开源

让中医智慧对话,专病专方一键问诊。

首个中医大语言模型——“仲景”。受古代中医学巨匠张仲景深邃智慧启迪,专为传统中医领域···

★ 535 2026-08-09
sealion 开源

让大模型真正听懂东南亚多国语言

South-East Asia Large Language Models

★ 426 2026-09-25
RET-CLIP 开源

用临床报告训练视网膜AI,零样本识别眼科疾病

RET-CLIP: A Retinal Image Foundation Model Pre-trained with Clinical Diagnostic Repo···

★ 74 2026-08-09
GTT 开源

零样本预测多变量时间序列,一个模型通吃多个领域

Codebase for CIKM '24 paper -- General Time Transformer: an Encoder-only Foundation···

★ 67 2026-08-09