CausalMM

破解注意力因果，减少多模态模型瞎编乱造

CausalMM 是一个针对多模态大语言模型（MLLM）幻觉问题的开源项目，发表于 ICLR 2025。它主要解决因模态先验（如文本先验）导致的幻觉，即模型在生成时过度依赖文本而忽视图像内容。项目通过解构注意力机制的因果性，提出一种新的方法，能够识别并缓解由模态先验引起的错误生成。核心能力包括：提供幻觉缓解的训练或推理策略，基于注意力因果分析，可能包含模型微调或解码改进。项目代码基于 Python，适合研究者复现和扩展，旨在提升多模态模型在视觉问答等任务中的可靠性和准确性。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 67

维护状态低维护

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队The-Martyr

所属国家

官网地址

GitHubhttps://github.com/The-Martyr/CausalMM

定价模式free

价格说明开源项目，MIT许可证，完全免费，无付费版本。

访问状态

是否开源是

开源协议MIT

主要语言Python

技术栈/模型attention-mechanism,iclr,iclr2025,large-language-models,large-vision-language-models,llm,multi-modality,multimodal,multimodal-large-language-models

GitHub 星标★ 67

30天Star增速

HF 下载量

上线时间2024-10-06 00:00:00

最近更新2026-07-28 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数3

使用教程

核心亮点

针对多模态幻觉这一痛点，提出基于注意力因果性的新解法，学术创新性强
已在 ICLR 2025 发表，方法经过同行评审，具备一定可信度
代码开源，便于研究者复现和二次开发，促进领域进步

不足之处

项目处于早期阶段（67星），文档和社区支持可能不够完善
未提供预训练模型或详细实验配置，上手门槛可能较高

适用场景

多模态大模型幻觉问题研究
视觉问答（VQA）任务可靠性提升
多模态模型安全性与可信度优化

替代项目

LLaVA、MiniGPT-4、HallusionBench

项目介绍

CausalMM 是模型训练领域的开源项目，由 The-Martyr 开发，2024 年首次发布。

它收录于模型训练分类，该分类目前共有 518 个项目，GitHub 星标数为 67。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-07-28。MIT许可证，完全免费，无付费版本。

它主要面向的使用场景是：多模态大模型幻觉问题研究。同类可对比的替代方案包括 LLaVA、MiniGPT-4、HallusionBench。

上一篇：ZO-LLM

下一篇：LLMNodeBed