HoliTom

合并视频令牌，让视频大模型推理快数倍

HoliTom是一个针对视频大语言模型（Video LLM）的推理加速工具，核心思路是“整体令牌合并”（Holistic Token Merging）。视频模型处理长视频时会产生海量视觉令牌，导致计算开销巨大。HoliTom通过智能合并相似的时空令牌，在不显著损失性能的前提下大幅减少输入序列长度，从而加速模型推理。它解决了视频理解任务中计算资源消耗高、响应延迟长的问题。核心能力包括：全局感知的令牌合并策略，能同时考虑空间和时间维度；与主流Video LLM架构兼容；提供简单易用的API接口。该工作被NeurIPS 2025接收，表明其方法论有一定学术认可。适合需要高效处理长视频的开发者或研究者集成使用。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 86

维护状态低维护

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队cokeshao

所属国家

官网地址https://cokeshao.github.io/HoliTom_Web

GitHubhttps://github.com/cokeshao/HoliTom

定价模式free

价格说明开源项目，Apache-2.0许可证，可自由使用和部署，无付费版本。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型large-language-models,llava,llava-next-video,multimodal-large-language-models,token-merging,token-pruning,video-large-language-models,visionzip

GitHub 星标★ 86

30天Star增速

HF 下载量

上线时间2025-05-23 00:00:00

最近更新2026-09-21 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数6

使用教程

核心亮点

提出整体令牌合并方法，同时优化空间和时间冗余，加速效果显著
基于NeurIPS 2025论文，方法有学术验证，非简单工程技巧
与主流Video LLM架构兼容，集成成本低，易上手

不足之处

项目处于早期，文档和社区支持待观察
令牌合并可能引入轻微信息损失，对高精度任务需权衡

适用场景

长视频理解与摘要生成
视频问答系统实时响应
边缘设备或资源受限环境部署视频模型

替代项目

Token Merging (ToMe)、FastV、VideoLLM加速框架

项目介绍

HoliTom 是模型训练领域的开源项目，由 cokeshao 开发，2025 年首次发布。

它收录于模型训练分类，该分类目前共有 522 个项目，GitHub 星标数为 86。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-21。Apache-2.0许可证，可自由使用和部署，无付费版本。

它主要面向的使用场景是：长视频理解与摘要生成。同类可对比的替代方案包括 Token Merging (ToMe)、FastV、VideoLLM加速框架。

上一篇：llm4regression

下一篇：adaptive-classifier