awesome-hallucination-detection

大模型幻觉检测论文一网打尽,快速入门不迷路

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 93 👀 关注 27
GitHub ↗
GitHub 星标 ★ 1139
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费资源列表

项目预览

awesome-hallucination-detection 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队EdinburghNLP
定价模式🏷️完全免费
价格说明开源免费资源列表
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
技术栈/模型hallucinations,llms,nlp
GitHub 星标★ 1139
上线时间2023-09-15 00:00:00
代码更新2026-10-21
仓库体积946 KB
本站数据更新2026-10-24
维护状态活跃
收录时间2026-10-24
浏览次数0

项目介绍

这是一个聚焦大语言模型幻觉检测的论文资源清单,系统整理了该方向的研究文献与资料索引。项目本身不含可运行代码或工具,核心价值在于把分散在 arXiv、会议论文中的幻觉检测方法按主题归类,帮助研究者快速定位相关工作。它解决的是入门者面对海量文献不知从何读起、以及从业者追踪领域进展成本高的问题。内容通常覆盖基于不确定性、内部状态探针、外部知识校验、自一致性、检索增强验证等检测思路,并可能按任务类型或评测基准分组。适合作为文献综述的起点、课程阅读清单或团队调研底稿。由于是纯列表型仓库,使用方式以浏览和检索为主,需要读者自行判断论文质量与可复现性,不提供统一评测框架或基准数据。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-24 · 当前星标 ★ 1139

技术标签

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 10 分钟 部署方式:本地安装 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 浏览器,用于浏览 README 中的论文条目与外部链接
  • Git(可选),用于把清单克隆到本地做全文检索
  • 支持全局搜索的文本编辑器(可选)
  • 无需安装任何运行环境或第三方依赖

安装与启动步骤

  1. 1打开仓库页面

    进入 GitHub 项目主页,先浏览 README 的整体结构,确认条目按主题与任务类型分组。

  2. 2读懂条目格式

    每条包含标题、Metrics、Datasets、Comments,Comments 里概括方法思路与实验结论。

  3. 3克隆到本地

    把清单下载到本地,方便离线阅读和全文检索;不装 Git 也可直接下载压缩包。

    git clone https://github.com/EdinburghNLP/awesome-hallucination-detection.git
  4. 4本地全文检索

    进入仓库目录后按关键词搜索,例如 uncertainty、RAG、attention,快速定位相关论文。

    cd awesome-hallucination-detection
    grep -ri "uncertainty" .
  5. 5跳转阅读原文

    点击条目中的 arXiv 或 ACL 链接阅读论文;标注 Code 的条目可再查看其复现代码仓库。

如何确认成功

本地出现 awesome-hallucination-detection 目录,README 中能看到论文条目即表示获取成功。

常见问题

Q:这个项目需要安装环境或依赖吗?

A:不需要。仓库只包含 Markdown 格式的论文清单,没有可运行代码,克隆后用浏览器或编辑器阅读即可。

Q:能直接用它跑幻觉检测评测吗?

A:不能。它不提供评测框架、模型或基准数据,只做文献索引,具体实验需按论文自行复现。

Q:初次接触该方向应该怎么读?

A:先按主题分组通览,从 Comments 了解方法思路与数据集,再挑选综述性或高相关条目精读原文。

Q:条目里的 Metrics 和 Datasets 有什么用?

A:可用于对比不同方法的评测口径与数据来源,快速判断某篇论文是否与自己的任务场景匹配。

注意事项

  • 本项目为纯列表型资源仓库,不含可执行代码,教程仅涉及浏览与检索。
  • 论文的质量与可复现性需读者自行判断,清单不代表统一评测结论。
  • 条目数量会随维护持续增加,建议定期查看仓库更新记录。

核心亮点

  • 按检测思路分类整理文献,省去在多个数据库间反复检索的时间
  • 覆盖不确定性、外部校验、自一致性等主流技术路线,便于横向对比
  • 纯列表结构轻量易维护,适合作为综述写作和组会分享的素材底稿

不足之处

  • 仅为论文索引,不含代码、数据集或可复现实验,无法直接落地验证
  • 缺少统一的论文质量标注与更新节奏说明,时效性和筛选标准依赖维护者

适用场景

  • 研究生入门大模型幻觉检测方向时快速建立文献地图
  • 团队做技术选型前调研现有检测方法的覆盖范围
  • 课程或读书会安排幻觉检测主题的阅读清单

替代项目

awesome-hallucination、LLM-Hallucination、awesome-llm-evaluation

上一篇:auto_LiRPA

下一篇:Awesome-LLMs-Pruning

同类项目推荐

Aegis 开源

给 AI 代理加装安全护栏,零代码实现审计、审批和紧急停机。

Runtime policy enforcement for AI agents. Cryptographic audit trail, human-in-the-lo···

★ 523 2026-08-10
ClawdSecbot 开源

给 AI Bot 装上实时安全盾牌,防注入、防攻击、可审计。

ClawdSecbot is a professional AI Bot security protection solution, providing securit···

★ 93 2026-08-09
llm-colosseum 开源

让大模型打街霸,用对战胜负测实力

Benchmark LLMs by fighting in Street Fighter 3! The new way to evaluate the quality ···

★ 1483 2026-08-09
Jailbreak-Foundry 开源

把越狱论文变成可跑的攻击测试,实时更新基准

A system that turns jailbreak papers into runnable attacks and benchmarks — live, a···

★ 171 2026-08-10
inspect_evals 开源

一行命令跑齐大模型能力与安全评测

Collection of evals for Inspect AI

★ 710 2026-09-14
ErrorAnalysis_Prompt 开源

用 ChatGPT 快速定位翻译错误,输出结构化评估报告

:gift:[ChatGPT4MTevaluation] ErrorAnalysis Prompt for MT Evaluation in ChatGPT

★ 91 2026-08-09
llm-guard 开源

给 LLM 应用加把安全锁,防注入防泄露

The Security Toolkit for LLM Interactions

★ 3217 2026-08-09
eva 开源

一套框架,全面衡量语音代理表现,快速定位短板。

A New End-to-end Framework for Evaluating Voice Agents

★ 230 2026-08-09