perceptual_abilities_evaluation

用统一基准测出VLM检测分割的真实水平

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 3 👀 关注 1
GitHub ↗
GitHub 星标 ★ 134
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源评测项目,免费使用

项目预览

perceptual_abilities_evaluation 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队better-chao
定价模式🏷️完全免费
价格说明开源评测项目,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
GitHub 星标★ 134
上线时间2024-05-31 00:00:00
代码更新2026-09-21
仓库体积26.0 MB
本站数据更新2026-11-15
维护状态维护中
收录时间2026-09-30
浏览次数1

项目介绍

这是一个面向视觉语言模型(VLM)的评测项目,聚焦目标检测与分割任务。它针对当前 VLM 在细粒度视觉感知上被高估的问题,提供系统性的评测框架,通过多维度基准测试揭示模型在定位、分割和识别上的真实能力。项目包含对主流 VLM 的复现与对比,覆盖开放词汇检测、指代分割等任务,并给出定量与定性分析。核心能力包括:统一的评测协议、可复现的推理脚本、以及针对感知能力的诊断指标。它帮助研究者和工程师判断某个 VLM 是否适合需要精确空间理解的场景,避免被通用问答指标误导。代码以 Python 实现,结构清晰,便于扩展新模型或新数据集。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-30 · 当前星标 ★ 134

核心亮点

  • 聚焦目标检测与分割,填补通用VLM评测在细粒度感知上的空白
  • 提供可复现的评测脚本和统一协议,便于横向对比不同模型
  • 包含对多个主流VLM的定量与定性分析,结论有参考价值

不足之处

  • 项目星标较少,社区生态和后续维护待观察
  • 评测数据集和模型覆盖范围可能有限,扩展性需验证

适用场景

  • 研究者选型VLM做开放词汇检测时,先用它跑基准对比
  • 工程师验证某个VLM能否胜任指代分割任务
  • 论文复现或审稿时,用其评测协议做公平对比

替代项目

VLMEvalKit、lmms-eval

同类项目推荐

ClawProBench 开源

在真实 OpenClaw 里反复跑 Agent,用确定性打分比出谁更稳

ClawProBench is a live-first benchmark harness for evaluating LLM agents in the Op···

★ 830 2026-09-16
agent-opfor 开源

给AI智能体做安全体检,模拟攻击找漏洞

Open-source adversary emulation for AI agents and MCP servers.

★ 585 2026-08-09
agentevals 开源

用追踪数据评估智能体,无需绑定框架

agentevals is a framework-agnostic evaluations solution based on OpenTelemetry trace···

★ 169 2026-08-10
Gym 开源

把模型丢进环境里跑,边评测边改进智能体

Evaluate and improve models and agents using environments

★ 1331 2026-09-16