HallusionBench
测出多模态模型的视觉幻觉，看清谁在瞎猜
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 346
核心亮点
- 专门设计对抗视觉错觉的样本，能有效暴露模型推理漏洞
- 支持 GPT-4V、LLaVA 等主流模型横向对比，结果直观
- 提供标准化评估脚本，便于复现和扩展新模型测试
不足之处
- 数据集规模较小，覆盖场景有限
- 文档/社区待观察
适用场景
- 多模态模型研发中评估幻觉程度
- 对比不同 VLM 的视觉推理能力
- 改进模型对图像细节的注意力机制
替代项目
POPE、MMVP、MMBench
上一篇：pII-guard
下一篇：Lookback-Lens
同类项目推荐
Spiritual-Spell-Red-Teaming
开源
用现成越狱提示快速测出大模型安全漏洞
A repo for jailbreaking various LLMs, mainly Claude
ablation
开源
用 LLM 智能体自动读汇编、追调用链，加速二进制逆向
Ablation is an AI-assisted reverse engineering (AIARE) framework
Internal-Safety-Collapse
开源
把AI智能体放进正常代码流程，看它如何自己补出危险操作
[NeurIPS 2026] Safety failures in coding agents and frontier LLMs. Reproducible work···
terminal-bench
开源
在真实终端里跑任务，量出 agent 到底行不行
Measuring and evolving with the frontier of agent work
Multi-Modality-Arena
开源
上传图片，并排对比多模态大模型谁更聪明
Chatbot Arena meets multi-modality! Multi-Modality Arena allows you to benchmark vis···
Deco
开源
让多模态模型少说瞎话，动态纠错解码即插即用
[ICLR 2025] MLLM can see? Dynamic Correction Decoding for Hallucination Mitigation
trustmebro
开源
伪造工具输出，测出模型护栏会不会被骗
Bypass llm guardrails by confusing it with fabricated tool output.
promptfoo
开源
一条命令测试你的提示词和模型，防漏洞防降级。
Test your prompts, agents, and RAGs. Red teaming/pentesting/vulnerability scanning f···
vulnhuntr
开源
让LLM自动帮你扫代码找漏洞，零样本开箱即用
Zero shot vulnerability discovery using LLMs