LMM-Evaluation-Survey

一图看懂多模态大模型评测基准与方法

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 16 🐛 待处理 1
GitHub ↗
GitHub 星标 ★ 525
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,无付费服务

项目预览

LMM-Evaluation-Survey 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队aiben-ch
定价模式🏷️完全免费
价格说明开源免费,无付费服务
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
GitHub 星标★ 525
上线时间2025-07-25 00:00:00
代码更新2026-11-05
仓库体积2.9 MB
本站数据更新2026-11-15
维护状态较活跃
收录时间2026-11-15
浏览次数0

项目介绍

LMM-Evaluation-Survey 是论文《Large Multimodal Models Evaluation: A Survey》的官方仓库,系统梳理多模态大模型评测领域的研究进展。项目围绕评测什么、怎么评、评得准不准三条主线,汇总现有基准数据集、评测任务类型、指标设计与方法框架,并讨论评测中的偏差、数据污染与可复现性问题。对研究者而言,它解决的是多模态评测文献分散、基准选择缺乏依据、指标口径不统一的问题,可作为选型与实验设计的参考地图;对工程团队而言,可据此为图文理解、视觉问答、多模态推理等能力挑选合适的评测集与对照方案。仓库以综述论文配套资料为主,包含分类体系、基准汇总与文献索引,适合作为入门导读和后续研究的检索入口。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-11-15 · 当前星标 ★ 525

核心亮点

  • 系统梳理多模态大模型评测的基准、任务与指标,形成清晰分类体系
  • 覆盖评测偏差、数据污染、可复现性等关键问题,不止罗列榜单
  • 作为论文官方仓库,文献索引与基准汇总便于按图索骥做选型

不足之处

  • 以综述与资料整理为主,缺少可直接运行的评测代码或工具链
  • 早期项目,内容更新与社区维护节奏有待观察

适用场景

  • 研究团队调研多模态评测方向、确定论文选题
  • 算法团队为图文理解能力挑选评测基准与指标
  • 技术管理者快速了解多模态模型评测的整体格局

替代项目

MMBench、OpenCompass、VLMEvalKit

上一篇:Awesome-Diffusion-Flow-RL

下一篇:没有了!

同类项目推荐

MGDebugger 开源

像调试传统代码一样调试大模型,快速定位推理错误根因。

Multi-Granularity LLM Debugger [ICSE2026]

★ 102 2026-08-09
BEAM 开源

百万级上下文下,科学评测并增强大模型长期记忆

[ICLR 2026] Beyond a Million Tokens: Benchmarking and Enhancing Long-Term Memory in ···

★ 175 2026-08-09
ps-fuzz 开源

自动模糊测试系统提示词,找出越狱漏洞并加固

Make your GenAI Apps Safe & Secure :rocket: Test & harden your system prompt

★ 719 2026-09-16
JailbreakHub 开源

大模型安全测试提示词合集,红队评测随手取用

A Hub/research area, for jailbreaking LLM's, and breaking their safety filters.

★ 357 2026-11-11
PatchEval 开源

用真实漏洞测大模型修 bug 的真本事

PatchEval: A New Benchmark for Evaluating LLMs on Patching Real-World Vulnerabilitie···

★ 236 2026-10-23
tonic_validate 开源

给RAG应用打分,量化回答质量,快速定位问题

Metrics to evaluate the quality of responses of your Retrieval Augmented Generation ···

★ 328 2026-08-09
Eval 开源

并行跑 LLM 评测,速度提升最高 17 倍

High-performance LLM evaluation framework with parallel API calls — up to 17× fast···

★ 119 2026-09-15
heretic 开源

一键去除模型审查,解锁无限制回答

Training-free language model modification: Remove censorship, suppress slop, reduce ···

★ 40559 2026-08-09
skill-validator 开源

一条命令检查 Agent Skill 写得对不对、够不够扎实

Validate Skill content against Agent Skill specification, with additional content de···

★ 267 2026-10-30