Video-ChatGPT

看视频聊细节,视频问答一步到位

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 对话助手 🍴 复刻 131 🐛 待处理 28 👀 关注 14
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 1516
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源项目,基于CC-BY-4.0许可证,可免费使用和部署,无付费版本。

项目预览

Video-ChatGPT 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类对话助手
开发团队mbzuai-oryx
定价模式🏷️完全免费
价格说明开源项目,基于CC-BY-4.0许可证,可免费使用和部署,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议CC-BY-4.0
主要语言Python
技术栈/模型chatbot,clip,gpt-4,llama,llava,mulit-modal,vicuna,video-chatboat,video-conversation,vision-language,vision-language-pretraining
GitHub 星标★ 1516
上线时间2023-05-18 00:00:00
代码更新2026-09-05
仓库体积81.0 MB
本站数据更新2026-11-09
维护状态维护中
收录时间2026-08-09
浏览次数4

项目介绍

Video-ChatGPT 是一个面向视频对话的多模态大模型,发表于 ACL 2024。它结合了大型语言模型(如 Vicuna、LLaMA)与预训练视觉编码器(CLIP),通过时空视频表示理解视频内容,支持用户围绕视频进行自然语言问答和对话。项目解决了视频理解中时序建模与语言生成结合的问题,核心能力包括视频描述、基于视频内容的问答、推理和对话。同时,论文提出了一个严格的定量评估基准,用于评测视频对话模型的性能。代码和模型开源,方便研究者复现和扩展。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1516

技术标签

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:进阶 约 30 分钟 部署方式:本地安装 6 步

环境要求

  • 已安装 Conda,可创建 Python 3.10 环境
  • 已安装 Git,能克隆 GitHub 仓库
  • 可正常使用 pip 安装依赖
  • 如需训练:需能编译安装 FlashAttention v1.0.7 的环境

安装与启动步骤

  1. 1创建 Conda 环境

    README 推荐为项目单独新建 conda 环境,指定 Python 3.10,并激活该环境。

    conda create --name=video_chatgpt python=3.10
    conda activate video_chatgpt
  2. 2克隆项目代码

    从 GitHub 拉取 Video-ChatGPT 仓库,并进入项目根目录,后续命令都在此目录执行。

    git clone https://github.com/mbzuai-oryx/Video-ChatGPT.git
    cd Video-ChatGPT
  3. 3安装 Python 依赖

    按 requirements.txt 一次性安装项目所需依赖,务必在已激活的 video_chatgpt 环境中执行。

    pip install -r requirements.txt
  4. 4设置 PYTHONPATH

    把项目根目录加入 PYTHONPATH,保证代码能以模块方式被导入。

    export PYTHONPATH="./:$PYTHONPATH"
  5. 5安装 FlashAttention

    README 说明训练需要 FlashAttention,先装 ninja,再克隆并切到 v1.0.7 编译安装。

    pip install ninja
    
    git clone https://github.com/HazyResearch/flash-attention.git
    cd flash-attention
    git checkout v1.0.7
    python setup.py install
  6. 6运行离线 Demo

    README 未给出离线 Demo 的具体命令,只指向 docs/offline_demo.md,请按该文档操作。

关键配置

配置项必填说明示例
PYTHONPATH是让项目根目录可被 Python 导入,安装后需导出该变量./:$PYTHONPATH

如何确认成功

README 未提供启动验证命令;确认 conda 环境激活、pip 依赖与 PYTHONPATH 设置均无报错即可。

常见问题

Q:不训练也需要装 FlashAttention 吗?

A:README 明确说 FlashAttention 是 training 额外需要的,若只跑离线 Demo 可先跳过这一步,遇到显存或 CUDA 问题再处理。

Q:离线 Demo 怎么启动?

A:README 只给出文档入口 docs/offline_demo.md,仓库内该文档中包含具体运行命令,请以它为准。

Q:为什么要创建单独的 conda 环境?

A:README 推荐为该项目单独建 conda 环境,可避免与其他项目的 Python 及依赖版本冲突。

Q:export PYTHONPATH 每条终端都要执行吗?

A:export 只在当前会话生效,重新打开终端或换会话后需要在新环境中再次执行。

注意事项

  • README 未提供 Docker、云服务或 pip 一键安装方式,本项目按本地源码安装。
  • 训练相关部分的依赖(FlashAttention v1.0.7)与推理/Demo 需求不同,请按用途取舍。
  • README 中提到多样化的视频生成性能基准(VCGBench-Diverse)与零样本问答评测,具体用法需查阅仓库对应文档。
  • 涉及模型权重与推理命令的内容 README 节选中未给出,请以官方仓库最新说明为准。

核心亮点

  • 基于 CLIP 和 LLM 的时空建模,能捕捉视频动态信息
  • 提供定量评估基准,方便对比视频对话模型效果
  • 代码结构清晰,支持自定义视频和问题,易于上手

不足之处

  • 模型推理速度较慢,对长视频处理有挑战
  • 文档/社区待观察

适用场景

  • 视频内容问答与摘要生成
  • 教育视频辅助学习与答疑
  • 视频检索与内容分析

替代项目

Video-LLaMA、LLaMA-VID、Video-Chat

上一篇:Rasa_NLU_Chi

下一篇:easyChat

同类项目推荐

chatbot 开源

记住你的俄语聊天机器人,越聊越懂你

Русскоязычный генеративный чатбот с профилем···

★ 258 2026-08-09
TwoAI 开源

让两个本地 AI 自动聊起来,探索多智能体对话

A simple experiment on letting two local LLM have a conversation about anything!

★ 111 2026-08-09
TavernAI-v1 开源

一个前端,接入多种 AI,玩转沉浸式角色扮演。

Atmospheric adventure chat for AI language models (KoboldAI, NovelAI, Pygmalion, Ope···

★ 2704 2026-08-09
bedrock-chat 开源

在 AWS 上快速搭建基于 Claude 的聊天机器人,开箱即用

AWS-native chatbot using Bedrock

★ 1324 2026-08-09
dfcx-scrapi 开源

用 Python 脚本高效管理 Dialogflow CX,告别手动点击控制台。

A high level scripting API for bot builders, developers, and maintainers.

★ 142 2026-08-09
kubernetes-chatgpt-bot 开源

在 Slack 里用大白话问 Kubernetes,ChatGPT 帮你查状态、看指标

A ChatGPT bot for Kubernetes issues.

★ 910 2026-08-09
hackGPT 开源

用大白话指挥 ChatGPT 干黑客活,快速生成攻击脚本和分析恶意代码

I leverage OpenAI and ChatGPT to do hackerish things

★ 1217 2026-08-09
errbot 开源

用 Python 写聊天机器人,把运维命令直接聊出来

Errbot is a chatbot, a daemon that connects to your favorite chat service and bring ···

★ 3312 2026-08-09