MLLM-Token-Compression

一页看懂多模态大模型Token压缩方案怎么选

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 12 🐛 待处理 1 👀 关注 2
GitHub ↗
GitHub 星标 ★ 229
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 学术综述,免费公开

项目预览

MLLM-Token-Compression 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队yaolinli
定价模式🏷️完全免费
价格说明学术综述,免费公开
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
GitHub 星标★ 229
上线时间2025-11-26 00:00:00
代码更新2026-10-09
仓库体积2.0 MB
本站数据更新2026-11-04
维护状态较活跃
收录时间2026-09-15
浏览次数1

项目介绍

MLLM-Token-Compression 是一个围绕多模态大语言模型(MLLM)Token 压缩的综述与资源集合项目。多模态大模型在处理图像、视频等输入时,视觉 Token 数量往往远超文本,导致推理显存占用高、延迟大、成本昂贵。该项目系统梳理了当前主流的 Token 压缩方法,按技术路线(如剪枝、合并、重采样、查询式压缩等)分类归纳,并整理代表性论文、开源实现与评测基准,帮助研究者和工程师快速了解该领域全貌。其核心价值在于把分散的压缩方案集中对比,指出各方法在精度损失、压缩率、适用模态上的权衡,为模型部署加速提供选型参考。项目本身偏资料索引性质,不提供统一训练或推理代码,适合作为入门调研与方案检索的入口。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-15 · 当前星标 ★ 229

核心亮点

  • 按剪枝、合并、重采样等路线系统分类,便于横向对比
  • 汇总论文与开源实现链接,省去大量检索时间
  • 聚焦多模态场景的视觉Token冗余问题,选题实用

不足之处

  • 项目以资料整理为主,缺少可直接运行的统一代码
  • 早期项目,更新频率与社区活跃度有待观察

适用场景

  • 调研多模态大模型推理加速方案时快速入门
  • 为视觉Token压缩选型做技术对比
  • 撰写相关论文时查找基线方法与参考文献

替代项目

Awesome-Multimodal-Large-Language-Models、LLaVA

上一篇:BackdoorLLM

下一篇:helm

同类项目推荐

unitxt 开源

一站式搭建可复现的 AI 评估流水线,告别零散脚本。

Unitxt is a Python library for enterprise-grade evaluation of AI performance, offeri···

★ 215 2026-08-09
clawseccheck 开源

给 OpenClaw 智能体做安全体检,一键出 A-F 安全分。

Local, read-only security audit for your OpenClaw agent. Finds config, prompt-inject···

★ 58 2026-08-09
CS-Eval 开源

给网络安全大模型打分,快速找出安全能力短板

CS-Eval is a comprehensive evaluation suite for fundamental cybersecurity models or ···

★ 68 2026-08-09
overmind 开源

追踪+评测+微调,让 Agent 越用越准

The platform for continuously improving AI agents.

★ 745 2026-10-07
ablation 开源

用 LLM 智能体自动读汇编、追调用链,加速二进制逆向

Ablation is an AI-assisted reverse engineering (AIARE) framework

★ 1 2026-10-27
LLMEval-1 开源

17类453题+2186人标注,中文大模型评测数据即取即用

[AAAI 2024] LLMEval Phase I dataset — 17 categories, 453 questions, 2186 annotators···

★ 114 2026-10-23
guidellm 开源

给 LLM 推理服务做真实压测,选型调优有数可依

Evaluate and Enhance Your LLM Deployments for Real-World Inference Needs

★ 1747 2026-10-14