MLLM-Token-Compression
一页看懂多模态大模型Token压缩方案怎么选
MLLM-Token-Compression 是一个围绕多模态大语言模型（MLLM）Token 压缩的综述与资源集合项目。多模态大模型在处理图像、视频等输入时，视觉 Token 数量往往远超文本，导致推理显存占用高、延迟大、成本昂贵。该项目系统梳理了当前主流的 Token 压缩方法，按技术路线（如剪枝、合并、重采样、查询式压缩等）分类归纳，并整理代表性论文、开源实现与评测基准，帮助研究者和工程师快速了解该领域全貌。其核心价值在于把分散的压缩方案集中对比，指出各方法在精度损失、压缩率、适用模态上的权衡，为模型部署加速提供选型参考。项目本身偏资料索引性质，不提供统一训练或推理代码，适合作为入门调研与方案检索的入口。
项目数据
使用教程
核心亮点
- 按剪枝、合并、重采样等路线系统分类，便于横向对比
- 汇总论文与开源实现链接，省去大量检索时间
- 聚焦多模态场景的视觉Token冗余问题，选题实用
不足之处
- 项目以资料整理为主，缺少可直接运行的统一代码
- 早期项目，更新频率与社区活跃度有待观察
适用场景
- 调研多模态大模型推理加速方案时快速入门
- 为视觉Token压缩选型做技术对比
- 撰写相关论文时查找基线方法与参考文献
替代项目
Awesome-Multimodal-Large-Language-Models、LLaVA
项目介绍
上一篇：BackdoorLLM
下一篇：helm
同类项目推荐
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
Tracely-ai
开源
把生产事故变成回归测试，合并前自动拦截 AI 故障
Trace-native CI/CD for AI agents — production failures become regression tests that···
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents