hallucinations
本站收录 10 个带「hallucinations」标签的 AI 开源项目
hallucination-leaderboardhallucination-leaderboard 是一个用于评估大语言模型在短文档摘要任务中产生幻觉（即生成与原文不符内容）程度的开源排行榜。它通过统一的评测★ 3,322
awesome-hallucination-detection这是一个聚焦大语言模型幻觉检测的论文资源清单，系统整理了该方向的研究文献与资料索引。项目本身不含可运行代码或工具，核心价值在于把分散在 arXiv、会议论文中的★ 1,139
WoodpeckerWoodpecker 是一个针对多模态大语言模型（MLLM）的幻觉纠正工具。它通过训练一个轻量级的纠正器，在模型生成文本后，利用视觉知识库和交叉验证机制，自动检★ 650
DoLaDoLa 是一个用于提升大语言模型事实性的解码策略，来自同名论文的官方实现。它通过对比不同层级的输出分布来优化生成过程，减少模型在回答时产生的幻觉，使生成内容更★ 562
confabulationsconfabulations 是一个用于评估 RAG（检索增强生成）系统幻觉（或称虚构）问题的文档型基准测试集。它提供了一系列经过人工验证的问题和答案，专门设计★ 250
llamatorllamator 是一个用于测试聊天机器人和生成式 AI 系统的红队（Red Teaming）Python 框架。它主要解决 LLM 应用在安全性和可靠性方面的★ 224
UHGEvalUHGEval 是一个面向大语言模型幻觉评估的用户友好型框架，由 ACL 2024 论文提出。它旨在解决 LLM 在实际应用中生成不忠实或虚假内容的问题，通过提★ 184
Lookback-LensLookback-Lens 是 EMNLP 2024 论文的官方代码实现，专注于检测和缓解大语言模型中的上下文幻觉问题。它提出了一种仅利用注意力图（attent★ 154
HALCHALC 是一个针对多模态大语言模型（如 LLaVA）的物体幻觉抑制工具，基于 ICML 2024 论文实现。它通过自适应焦距-对比解码（Adaptive Fo★ 117
hallucination-index这是一个评估和排名主流大语言模型（LLM）幻觉倾向的开源项目。它针对常见的任务类型（如问答、摘要、代码生成等），系统性地测试不同模型产生幻觉（即生成与事实不符或★ 115