Modality-Integration-Rate

量化视觉-语言模型跨模态对齐,诊断融合短板

Modality-Integration-Rate 是 ICCV 2025 论文的官方代码,提出了一种名为“模态整合率”(Modality Integration Rate, MIR)的新指标,用于量化大型视觉-语言模型(LVLMs)中跨模态对齐的程度。该指标通过分析模型内部注意力或表示层中视觉与语言信息的融合效率,帮助研究者和开发者诊断模型在图文理解上的薄弱环节。项目解决了现有评估指标仅关注最终任务性能、无法揭示模型内部模态交互质量的问题。核心能力包括:提供 MIR 的计算实现、支持主流 LVLMs(如 LLaVA、LLaMA 多模态变体)的集成、以及可视化工具用于分析跨模态对齐模式。代码基于 Python,适用于大模型研究、多模态基准测试和模型优化。

开源 free 对话助手
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 113
维护状态 低维护
是否开源
定价模式 free

项目数据

分类对话助手
开发团队shikiw
所属国家
官网地址
定价模式free
价格说明开源项目,MIT许可证,可自由使用和部署,无付费版本。
访问状态
是否开源
开源协议MIT
主要语言Python
技术栈/模型chatbot,gpt-4o,large-multimodal-models,llama,llava,multimodal,vision-language-learning,vision-language-model
GitHub 星标★ 113
30天Star增速
HF 下载量
上线时间2024-10-09 00:00:00
最近更新2026-06-25 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数1

使用教程

核心亮点

  • 提出首个直接量化模态整合效率的指标,填补评估空白
  • 官方代码,与论文严格对应,复现性强
  • 支持主流模型(LLaVA、GPT-4o 等),易于集成到现有流程

不足之处

  • 项目处于早期,文档和示例可能不够完善
  • 指标计算可能依赖模型内部结构,通用性待验证

适用场景

  • 多模态模型研发中评估跨模态对齐质量
  • 对比不同 LVLMs 的模态融合能力
  • 诊断模型在图文任务中的失败原因

替代项目

CLIP Score、MME (Multimodal Evaluation)、LLaVA-Bench

项目介绍

Modality-Integration-Rate 是评测安全领域的开源项目,由 shikiw 开发,2024 年首次发布。

它收录于评测安全分类,该分类目前共有 458 个项目,GitHub 星标数为 113。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-06-25。MIT许可证,可自由使用和部署,无付费版本。

它主要面向的使用场景是:多模态模型研发中评估跨模态对齐质量。同类可对比的替代方案包括 CLIP Score、MME (Multimodal Evaluation)、LLaVA-Bench。

上一篇:botsim

下一篇:dialog-eval

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12
Tracely-ai 开源

把生产事故变成回归测试,合并前自动拦截 AI 故障

Trace-native CI/CD for AI agents — production failures become regression tests that···

★ 1362 2026-08-24