一页看懂LLM可靠性研究全景，找论文、查基准、避幻觉坑
这是一个聚焦大语言模型不确定性、可靠性与鲁棒性的精选资源清单，汇集了相关论文、工具、数据集和评测基准。项目解决LLM在实际应用中普遍存在的幻觉、过度自信、知识边界模糊和对抗攻击脆弱性等问题，帮助研究者和工程师系统性地追踪该领域的前沿进展。核心能力包括：按主题分类整理数百篇关键论文，覆盖校准、思维链推理、上下文学习、幻觉检测、不确定性量化等方向；提供常用评测基准和工具链的索引；持续更新以反映最新研究动态。作为awesome系列的一员，它降低了领域入门门槛，让使用者能快速定位到特定问题的解决方案和参考资料。
Awesome-LLM-Safety、Awesome-LLM-Hallucination、TrustLLM
Awesome-LLM-Uncertainty-Reliability-Robustness 是评测安全领域的开源项目，由 jxzhangjhu 开发，2023 年首次发布。
在全站 13,090 个收录项目中，它的 GitHub 星标数（834）位列前 30%，在评测安全分类中处于中上游。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-21。这是一个开源资源列表，完全免费，无需付费或试用。
它主要面向的使用场景是：研究者快速调研LLM不确定性量化与校准方法时查找核心文献。同类可对比的替代方案包括 Awesome-LLM-Safety、Awesome-LLM-Hallucination、TrustLLM。
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
