UHGEval 是评测安全领域的开源项目,由 IAAR-Shanghai 开发,2023 年首次发布。
它收录于评测安全分类,该分类目前共有 466 个项目,GitHub 星标数为 182。
项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-07-29。Apache-2.0 许可证,完全免费,可自行部署使用。
它主要面向的使用场景是:大模型发布前幻觉风险测试。同类可对比的替代方案包括 HaluEval、HalluQA、TruthfulQA。

一键测出大模型胡说八道,量化幻觉风险
UHGEval 是一个面向大语言模型幻觉评估的用户友好型框架,由 ACL 2024 论文提出。它旨在解决 LLM 在实际应用中生成不忠实或虚假内容的问题,通过提供标准化的评估套件和多个基准数据集(如 UHGEval、HaluEval、HalluQA 等),帮助研究者和开发者系统性地量化模型的幻觉程度。核心能力包括:支持多种幻觉类型(如事实性错误、上下文矛盾、逻辑不一致)的检测,提供统一的评估接口和可复现的实验流程,以及覆盖问答、摘要、对话等常见任务的基准测试。框架基于 Python,易于扩展和集成,适合学术研究和工业落地中的模型质量评估。
HaluEval、HalluQA、TruthfulQA
UHGEval 是评测安全领域的开源项目,由 IAAR-Shanghai 开发,2023 年首次发布。
它收录于评测安全分类,该分类目前共有 466 个项目,GitHub 星标数为 182。
项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-07-29。Apache-2.0 许可证,完全免费,可自行部署使用。
它主要面向的使用场景是:大模型发布前幻觉风险测试。同类可对比的替代方案包括 HaluEval、HalluQA、TruthfulQA。
akto
开源
给 AI 应用做安全体检,防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾,自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门,防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击,提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.