
Awesome-Efficient-Reasoning-LLMs
让大模型少想快答,推理效率提升指南
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 794
使用教程
环境要求
- 无需环境(读清单)
安装与启动步骤
-
1看清单
高效推理(蒸馏、量化、稀疏)方向的论文汇总。
https://github.com/eclipsess/Awesome-Efficient-Reasoning-LLMs -
2按技术路线分
清单按蒸馏、RL、剪枝等分组。
在页面内搜索:Distillation -
3挑一个能跑的
优先选有官方代码且权重开放的。
看 Code 列是否有链接 -
4本地验证
拿一个小模型做量化对比,比读十篇更有效。
llama.cpp 量化后测 tokens/s
如何确认成功
你能说清三种加速手段各自牺牲了什么。
注意事项
- 推理模型(长思维链)对效率优化更敏感,别只看准确率。
- 清单更新频繁,用最近一年的工作。
- 评测口径不一致时,论文里的加速比不可直接比较。
核心亮点
- 分类清晰,按方法/任务/效率指标多维度组织,检索方便
- 每篇论文附代码链接,可直接复现或参考实现
- 基于TMLR 2025综述,权威性和时效性强,覆盖最新研究
不足之处
- 项目为论文清单,非工具或框架,需自行阅读论文实践
- 文档/社区待观察
适用场景
- 科研人员调研LLM推理加速技术方向
- 工程师为生产环境选择低延迟推理方案
- 学生快速入门高效推理研究领域
替代项目
Awesome-LLM-Reasoning、Awesome-Reasoning-Foundation-Models、Chain-of-ThoughtsHub
同类项目推荐
docker-stable-diffusion-taiyi
开源
一键启动中文AI绘画,Docker跑太乙模型
带 Web UI 的 Docker taiyi (太乙),中文 Stable Diffusion WebUI 一键运行环境。
Awesome-Efficient-Reasoning-LLMs
开源
让大模型少想快答,推理效率提升指南
[TMLR 2025] Stop Overthinking: A Survey on Efficient Reasoning for Large Language Mo···
Multimodal-AND-Large-Language-Mo···
开源
每日精选多模态与LLM论文,快速跟进前沿动态
Paper list about multimodal and large language models, only used to record papers I ···
openjourney
开源
免费复刻 Midjourney 风格,本地跑起艺术生成
A fine-tuned model based on Stable Diffusion to create images in the style of Midjou···
CMLM-ZhongJing
开源
让中医智慧对话,专病专方一键问诊。
首个中医大语言模型——“仲景”。受古代中医学巨匠张仲景深邃智慧启迪,专为传统中医领域···
sealion
开源
让大模型真正听懂东南亚多国语言
South-East Asia Large Language Models
RET-CLIP
开源
用临床报告训练视网膜AI,零样本识别眼科疾病
RET-CLIP: A Retinal Image Foundation Model Pre-trained with Clinical Diagnostic Repo···
Awesome-Foundation-Models-in-Med···
开源
一页看懂医学影像AI基础模型,找模型不再大海捞针
A curated list of foundation models for vision and language tasks in medical imaging
GTT
开源
零样本预测多变量时间序列,一个模型通吃多个领域
Codebase for CIKM '24 paper -- General Time Transformer: an Encoder-only Foundation···