VLMEvalKit

一键评测 220+ 多模态模型，秒出对比报告

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署对话助手 🍴 复刻 792 🐛 待处理 324 👀 关注 14

GitHub ↗

GitHub 星标 ★ 4477

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源评估工具，Apache-2.0许可，完全免费，无付费版本。

项目预览

项目数据

分类对话助手

开发团队open-compass

GitHubhttps://github.com/open-compass/VLMEvalKit

定价模式🏷️完全免费

价格说明开源评估工具，Apache-2.0许可，完全免费，无付费版本。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型chatgpt,claude,clip,computer-vision,evaluation,gemini,gpt,gpt-4v,gpt4,large-language-models,llava,llm,multi-modal,openai,openai-api,pytorch,qwen,vit,vqa

GitHub 星标★ 4477

上线时间2023-12-01 00:00:00

代码更新2026-11-06

仓库体积13.4 MB

本站数据更新2026-11-09

维护状态活跃

收录时间2026-08-09

浏览次数1

项目介绍

VLMEvalKit 是一个开源的大语言多模态模型（LMMs）评估工具包，旨在解决多模态模型评测标准不统一、评测流程繁琐的问题。它支持 220 多个主流 LMMs（如 GPT-4V、Gemini、LLaVA、Claude 等）和 80 多个公开基准测试，覆盖视觉问答、图像描述、OCR、视频理解等任务。核心能力包括：一键式模型接入与评测、统一的评测协议和提示词模板、支持多 GPU 并行加速、提供详细的评测结果报告与排行榜。工具采用模块化设计，用户可轻松扩展新模型或新基准，适合研究者和开发者快速对比模型性能，推动多模态领域发展。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 4477

技术标签

chatgpt claude clip computer-vision evaluation

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：进阶约 10 分钟部署方式：本地安装 5 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

Python 环境（README 未给出具体版本，需以官方 QuickStart 文档为准）
可访问 GitHub 仓库 open-compass/VLMEvalKit 的网络环境
多模态评测通常需要较大的磁盘与显存/多 GPU 资源
部分模型（如 GPT-4V、Gemini、Claude）需自备对应 API Key

安装与启动步骤

1克隆代码仓库

从 GitHub 拉取 VLMEvalKit 源码到本地，后续所有操作都在该目录内进行。
```
git clone https://github.com/open-compass/VLMEvalKit.git
cd VLMEvalKit
```
2查阅官方快速开始

README 仅给出 QuickStart 链接，实际安装与依赖命令请以该文档为准，勿凭空猜测。
3按文档完成安装

依据 QuickStart 文档安装 vlmeval 包及其依赖；README 未列出具体安装命令，切勿自行编造。
4准备模型与数据集

按文档准备好待评测模型所需的密钥或本地权重，以及目标基准数据集。
5运行评测任务

使用文档中给出的评测入口执行一次评测，确认流程可正常跑通。