测出哪个AI最会胡说八道，选模型不再踩坑
这是一个评估和排名主流大语言模型（LLM）幻觉倾向的开源项目。它针对常见的任务类型（如问答、摘要、代码生成等），系统性地测试不同模型产生幻觉（即生成与事实不符或虚构内容）的频率，并给出量化排名。项目旨在帮助开发者和研究者了解各模型在可靠性上的差异，从而在选择模型时做出更明智的决策。核心能力包括：构建标准化的测试任务集、设计幻觉检测指标、自动化运行评估流程，并汇总结果形成排行榜。通过透明、可复现的评估方式，该项目为社区提供了关于LLM可信度的参考数据，推动模型在真实场景中的安全应用。
HELM (Holistic Evaluation of Language Models)、lm-evaluation-harness、LLM Hallucination Leaderboard
hallucination-index 是评测安全领域的开源项目，由 rungalileo 开发，2023 年首次发布。
它收录于评测安全分类，该分类目前共有 466 个项目，GitHub 星标数为 115。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-07。无在线服务，需自行部署，完全免费。
它主要面向的使用场景是：开发者选择低幻觉模型用于客服或内容生成。同类可对比的替代方案包括 HELM (Holistic Evaluation of Language Models)、lm-evaluation-harness、LLM Hallucin…。
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
