Awesome-LLM-Uncertainty-Reliability-Robustness

一页看懂LLM可靠性研究全景,找论文、查基准、避幻觉坑

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 对话助手 🍴 复刻 63 🐛 待处理 5 👀 关注 23
GitHub ↗
GitHub 星标 ★ 840
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 这是一个开源资源列表,完全免费,无需付费或试用。

项目预览

Awesome-LLM-Uncertainty-Reliability-Robustness 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类对话助手
开发团队jxzhangjhu
定价模式🏷️完全免费
价格说明这是一个开源资源列表,完全免费,无需付费或试用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
技术栈/模型awesome-list,calibration,chain-of-thought,chatgpt,gpt-3,gpt-4,hallucination,in-context-learning,large-language-models,llms,prompt-engineering,prompting,reliability,robustness,safety,uncertainty-estimation,uncertainty-quantification
GitHub 星标★ 840
上线时间2023-03-20 00:00:00
代码更新2026-11-07
仓库体积492 KB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数4

项目介绍

这是一个聚焦大语言模型不确定性、可靠性与鲁棒性的精选资源清单,汇集了相关论文、工具、数据集和评测基准。项目解决LLM在实际应用中普遍存在的幻觉、过度自信、知识边界模糊和对抗攻击脆弱性等问题,帮助研究者和工程师系统性地追踪该领域的前沿进展。核心能力包括:按主题分类整理数百篇关键论文,覆盖校准、思维链推理、上下文学习、幻觉检测、不确定性量化等方向;提供常用评测基准和工具链的索引;持续更新以反映最新研究动态。作为awesome系列的一员,它降低了领域入门门槛,让使用者能快速定位到特定问题的解决方案和参考资料。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 840

使用教程

难度:入门 约 15 分钟 部署方式:文档阅读 4 步

环境要求

  • git

安装与启动步骤

  1. 1取回清单

    LLM 不确定性、可靠性与鲁棒性的论文合集。

    git clone https://github.com/jxzhangjhu/Awesome-LLM-Uncertainty-Reliability-Robustness.git
    cd Awesome-LLM-Uncertainty-Reliability-Robustness
  2. 2看分类

    不确定性、可靠性、鲁棒性三块各自成章。

    grep -n '^#' README.md | head -40
  3. 3按关键词筛

    找校准、幻觉检测、越狱防御这类具体方向。

    grep -in 'calibration\|hallucination\|jailbreak' README.md | head -20
  4. 4顺论文读

    清单只是入口,方法细节看原文与代码。

    # 按链接下载 arXiv 或会议版

如何确认成功

能定位到与你关心的风险类型匹配的几篇代表作。

注意事项

  • 适合写综述或做风险评审时快速取用。
  • 部分条目只有论文没代码,复现成本高。

核心亮点

  • 主题分类清晰,覆盖校准、幻觉、鲁棒性等关键子领域,检索效率高
  • 收录了大量最新论文和评测基准,紧跟GPT-4、ChatGPT等前沿模型研究
  • 作为awesome-list维护活跃,社区贡献机制保证内容持续更新

不足之处

  • 文档/社区待观察
  • 仅提供资源索引,不含代码实现或评测结果,需自行阅读原文
  • 部分分类深度不一,个别子领域条目较少,覆盖不均衡

适用场景

  • 研究者快速调研LLM不确定性量化与校准方法时查找核心文献
  • 工程师评估模型在敏感场景(医疗、金融)的可靠性,筛选评测基准
  • 学生入门LLM安全与鲁棒性方向,梳理知识体系和关键论文

替代项目

Awesome-LLM-Safety、Awesome-LLM-Hallucination、TrustLLM

上一篇:geobench

下一篇:Rules.txt

同类项目推荐

search-arena 开源

量化分析搜索增强大模型,看清能力边界

⚔️ [ICLR 2026] Official code of "Search Arena: Analyzing Search-Augmented LLMs".

★ 61 2026-08-09
Awesome-LLM-Red-Teaming 开源

一站式收集 LLM 红队测试资源,快速上手安全攻防

A curated list of awesome LLM Red Teaming training, resources, and tools.

★ 148 2026-08-09
awesome-llm-security 开源

一站式找到 LLM 安全工具和资料,防坑避雷

A curation of awesome tools, documents and projects about LLM Security.

★ 1720 2026-08-09
SREGym 开源

用真实生产事故考题,测出 AI Agent 会不会排障

Can AI agents resolve production incidents?

★ 404 2026-09-12
LLM-Agent-Benchmark-List 开源

一站式查找 LLM 智能体评估基准,省去全网搜索时间

A banchmark list for evaluation of large language models.

★ 174 2026-08-09
ai-safe2-framework 开源

给 AI 智能体装上治理与合规操作系统,让 AI 安全落地。

The Universal Governance, Risk, Compliance (GRC) Operating System with Integrated Se···

★ 158 2026-08-10
openguardrails 开源

给 AI Agent 加本地规则、沙箱和网络管控三道闸

AI agent guardrails for every builder. Local rules, a sandbox and a firewall for you···

★ 363 2026-11-07