ViP-LLaVA

用点、框、涂鸦任意指，模型就能看懂你指的地方

ViP-LLaVA是CVPR 2024收录的多模态大模型，旨在让模型理解任意视觉提示（如点、框、涂鸦等），而不仅限于文本指令。它解决了现有视觉语言模型只能处理全局图像或文本指定区域的问题，通过引入视觉提示编码器，将用户提供的视觉标记与图像特征融合，使模型能精准定位并理解用户指向的物体或区域。核心能力包括：支持多种视觉提示输入、与LLaVA架构兼容、在视觉提示理解任务上表现优异。该模型基于LLaVA扩展，结合CLIP视觉编码器和Llama2语言模型，实现了对任意视觉提示的灵活响应，适用于细粒度图像理解、交互式问答等场景。

开源 free 对话助手
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 338
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类对话助手
开发团队WisconsinAIVision
所属国家
官网地址https://vip-llava.github.io
GitHubhttps://github.com/WisconsinAIVision/ViP-LLaVA
定价模式free
价格说明开源项目，Apache-2.0 许可证，可自由使用和部署，无付费版本。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型chatbot,clip,cvpr2024,foundation-models,gpt-4,gpt-4-vision,llama,llama2,llava,multi-modal,vision-language,visual-prompting
GitHub 星标★ 338
30天Star增速
HF 下载量
上线时间2023-12-02 00:00:00
最近更新2026-08-28 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数2

使用教程

核心亮点

  • 支持点、框、涂鸦等多种视觉提示，交互方式灵活
  • 基于LLaVA架构，易于集成现有多模态流程
  • CVPR 2024论文背书，方法有学术验证

不足之处

  • 项目早期，星标仅340，社区生态和文档待完善
  • 依赖LLaVA和Llama2，部署资源需求较高

适用场景

  • 细粒度图像理解：用户用框选物体询问属性
  • 交互式视觉问答：涂鸦指定区域获取描述
  • 辅助视觉障碍用户：通过指点方式获取图像信息

替代项目

LLaVA、Shikra、Ferret

项目介绍

ViP-LLaVA 是开源模型领域的开源项目，由 WisconsinAIVision 开发，2023 年首次发布。

它收录于开源模型分类，该分类目前共有 425 个项目，GitHub 星标数为 338。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-08-28。Apache-2.0 许可证，可自由使用和部署，无付费版本。

它主要面向的使用场景是：细粒度图像理解：用户用框选物体询问属性。同类可对比的替代方案包括 LLaVA、Shikra、Ferret。

上一篇：SkyText-Chinese-GPT3

下一篇：LLaVAR

同类项目推荐

Machine-Learning 开源

跟着博客笔记，边看边跑机器学习代码

All content related to machine learning from my blog

★ 115 2026-08-09
awesome-ltx2 开源

找齐 LTX-2 模型、工作流和 LoRA，一键上手视频生成。

All available LTX-2 models, encoders, workflows, LoRAs for ComfyUI

★ 593 2026-08-10