MovieChat

把整部电影装进模型,问啥答啥,长视频理解不再难。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 44 🐛 待处理 42 👀 关注 10
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 711
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,基于BSD-3-Clause许可证,可自由使用和部署,无付费版本。

项目预览

MovieChat 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队wenhaochai
定价模式🏷️完全免费
价格说明开源项目,基于BSD-3-Clause许可证,可自由使用和部署,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议BSD-3-Clause
主要语言Python
技术栈/模型computer-vision,dataset,large-language-models,llama,long-video-understanding,multimodal-large-language-models
GitHub 星标★ 711
上线时间2023-06-26 00:00:00
代码更新2025-01-29
仓库体积80.5 MB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

MovieChat 是一个面向长视频理解的开源模型,由 CVPR 2024 论文提出。它解决了现有视频理解模型难以处理超长视频(如电影)的问题,核心创新在于将视频的密集视觉 token 转化为稀疏记忆,从而在有限的计算资源下实现对长视频的全局语义理解和局部细节问答。模型采用自回归方式,能够对用户提出的关于视频内容的问题进行回答,支持多轮对话,并提供了完整的推理代码和演示。其核心能力包括长视频的时序理解、事件定位和内容摘要,特别适合电影、纪录片等长格式视频的分析。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 711

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:高级 约 60 分钟 部署方式:本地安装 4 步

环境要求

  • CUDA 显卡(建议 24GB 显存)
  • PyTorch 与对应 CUDA 版本
  • 视频样本文件

安装与启动步骤

  1. 1准备显卡环境

    官方按 24GB 显存给出参考:能处理超过一万帧的长视频,显存不足要先降分辨率或分段。

    nvidia-smi
  2. 2安装包

    pip 安装后还需要单独下载模型权重,权重体积较大,注意磁盘余量。

    pip install MovieChat
  3. 3加载权重

    把权重放到约定的目录,代码里用相对路径引用,避免换机器时找不到。

  4. 4跑长视频推理

    输入视频加问题,模型会按帧采样后给出回答;帧数越多内存占用越高。

    python demo.py --video demo.mp4

如何确认成功

推理脚本正常结束并输出回答文本,显存未溢出

注意事项

  • 论文里的显存优势是相对同类方法,绝对占用仍不低,长视频优先降采样。
  • 权重和代码版本要匹配,混用会报维度错。

核心亮点

  • 提出稀疏记忆机制,有效处理超长视频,降低计算开销
  • 基于 CVPR 2024 论文,方法有学术背书,创新性强
  • 提供完整推理代码和演示,便于复现和二次开发

不足之处

  • 项目尚处早期,文档和社区支持待观察
  • 模型依赖大规模预训练,部署门槛较高

适用场景

  • 电影内容智能问答与摘要生成
  • 长视频监控事件检索与定位
  • 影视创作辅助分析(如剧本拆解)

替代项目

Video-LLaMA、LLaMA-VID、LongVideoBench

上一篇:VoxPoser

下一篇:FrozenBiLM

同类项目推荐

ETRIS 开源

冻结大模型,只调少量参数,就能做指代图像分割

[ICCV-2023] The code of Bridging Vision and Language Encoders: Parameter-Efficient T···

★ 150 2026-10-15
iOS-OCR-Server 开源

把 iPhone 变成局域网 OCR 接口

An iOS OCR Server Using Apple’s Vision Framework

★ 2102 2026-10-27
SIFU 开源

单张照片秒变3D人体,侧视补全细节,动画直接可用

[CVPR 2024 Highlight] Official repository for paper "SIFU: Side-view Conditioned Imp···

★ 276 2026-08-09
event-based_vision_resources 开源

事件相机资料一站集齐,快速入门不迷路

Event-based Vision Resources. Community effort to collect knowledge on event-based v···

★ 3680 2026-09-21
AntiCAP-WebApi 开源

上传验证码图片,直接返回识别结果

基于AntiCAP开发的多类型验证码识别网站,支持点选 滑块 算术 旋转 OCR

★ 375 2026-09-19
FILTER.js 开源

纯 JS 实现 OpenCV 级图像视频处理,浏览器 Node 都能跑

Video and Image Processing and Computer Vision Library similar to OpenCV in pure Jav···

★ 400 2026-09-18
caption_ocr_tool 开源

把视频里烧死的字幕,一键抠成可编辑文字

视频硬字幕提取工具

★ 197 2026-09-19
segment-anything-video 开源

一行命令给图片和视频做 SAM 分割,还能接 YOLO 检测

MetaSeg: Packaged version of the Segment Anything repository

★ 980 2026-09-13
ccv 开源

纯 C 写的轻量视觉库,不装大框架也能跑人脸检测和图像分类

C-based/Cached/Core Computer Vision Library, A Modern Computer Vision Library

★ 7252 2026-09-18