Awesome-KV-Cache-Compression
一份论文清单，搞定大模型KV Cache压缩选型
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 751
使用教程
环境要求
- 浏览器
安装与启动步骤
-
1在线浏览
论文集，直接看目录。
# 浏览器打开仓库首页 -
2按方向定位
清单按压缩方法与时间组织。
grep -n '^## ' README.md -
3克隆离线
需要检索就克隆。
git clone https://github.com/October2001/Awesome-KV-Cache-Compression.git -
4读原文
条目带论文链接，按需深入。
# 打开条目里的论文地址
如何确认成功
能定位三篇与自身推理场景相关的论文。
注意事项
- 清单不含可运行代码。
- 更新节奏快，部署前再看最新综述。
核心亮点
- 持续更新，紧跟KV Cache压缩领域最新研究
- 按技术路线分类整理，便于按需查找
- 收录经典与前沿论文，覆盖全面
不足之处
- 仅提供论文列表，无代码实现或评测对比
- 文档/社区待观察
适用场景
- 研究KV Cache压缩方向的学术调研
- 大模型推理优化时的技术选型参考
- 了解KV Cache压缩最新进展
替代项目
Awesome-LLM-Inference、Awesome-Efficient-LLM、LLM-Pruning-and-Quantization
同类项目推荐
MathVista
开源
测测AI看图算数行不行，一套基准见分晓
MathVista: data, code, and evaluation for Mathematical Reasoning in Visual Contexts
auto_LiRPA
开源
给神经网络算严格上下界，验证对抗鲁棒性
auto_LiRPA: An Automatic Linear Relaxation based Perturbation Analysis Library for N···
speca
开源
把规范文档自动变成审计清单，逐条核查代码
SPECA: Specification-to-Checklist Agentic Auditing Framework
keystone-bench
开源
换掉关键事实，看AI医疗建议会不会跟着变
A clinical decision-evidence benchmark: pull the one fact an answer rests on, and se···
PostTrainBench
开源
一张H100，十小时，测出AI代理调教大模型的本事
Measuring how well CLI agents like Claude Code or Codex CLI can post-train base LLMs···
open-bias
开源
给 AI Agent 加一道策略防火墙，违规请求当场拦截
Open Source policy enforcement proxy: Make your agents follow rules.
LLM4Pentest
开源
让大模型真刀真枪打渗透，测出真实攻防水平
awesome-agent-skills-security
开源
一份清单看懂 Agent 工具调用的攻击与防御
️ A curated list of resources on agent skills security: attacks, defenses, framewor···
xFinder
开源
用AI自动评估AI，让模型评测更可靠、更省力
[ICLR 2025] xFinder: Large Language Models as Automated Evaluators for Reliable Eval···