Awesome-KV-Cache-Compression

一份论文清单,搞定大模型KV Cache压缩选型

Awesome-KV-Cache-Compression 是一个持续更新的 KV Cache 压缩论文精选列表,旨在为研究者和工程师提供该领域的核心文献索引。它系统梳理了 KV Cache 压缩的关键技术路线,包括量化、剪枝、稀疏化、低秩分解、检索增强等,覆盖从理论到工程实现的各类方法。项目解决了大模型推理中 KV Cache 占用显存过大、影响长上下文处理效率的问题,帮助用户快速定位适合自身场景的压缩方案,并了解最新研究动态。作为精选列表,它提供了论文标题、链接和分类,方便用户深入阅读原始研究。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 744
维护状态 维护中
是否开源
定价模式 free

项目数据

分类开源模型
开发团队October2001
所属国家
官网地址
定价模式free
价格说明开源项目,完全免费,无付费版本。
访问状态
是否开源
开源协议MIT
主要语言
技术栈/模型awesome-list,large-language-models,papers
GitHub 星标★ 744
30天Star增速
HF 下载量
上线时间2024-07-23 00:00:00
最近更新2026-09-22 00:00:00
维护状态维护中
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

核心亮点

  • 持续更新,紧跟KV Cache压缩领域最新研究
  • 按技术路线分类整理,便于按需查找
  • 收录经典与前沿论文,覆盖全面

不足之处

  • 仅提供论文列表,无代码实现或评测对比
  • 文档/社区待观察

适用场景

  • 研究KV Cache压缩方向的学术调研
  • 大模型推理优化时的技术选型参考
  • 了解KV Cache压缩最新进展

替代项目

Awesome-LLM-Inference、Awesome-Efficient-LLM、LLM-Pruning-and-Quantization

项目介绍

Awesome-KV-Cache-Compression 是评测安全领域的开源项目,由 October2001 开发,2024 年首次发布。

它收录于评测安全分类,该分类目前共有 458 个项目,GitHub 星标数为 744。

项目仍在小幅维护中,最近一次代码更新于 2026-09-22。完全免费,无付费版本。

它主要面向的使用场景是:研究KVCache压缩方向的学术调研。同类可对比的替代方案包括 Awesome-LLM-Inference、Awesome-Efficient-LLM、LLM-Pruning-and-Quantization。

上一篇:inseq

下一篇:AgentMark

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12
Tracely-ai 开源

把生产事故变成回归测试,合并前自动拦截 AI 故障

Trace-native CI/CD for AI agents — production failures become regression tests that···

★ 1362 2026-08-24