一库看懂大模型推理翻车现场与原因
这是一个围绕《Large Language Model Reasoning Failures》论文整理的开源资源库，系统收集大语言模型在推理任务中出错的案例、分类与相关研究。它解决的核心问题是：当前 LLM 在数学、逻辑、形式化证明、常识与具身推理等场景中常给出看似合理却错误的答案，而研究者缺少统一入口来定位失败模式。项目按认知推理、具身推理、形式推理、非形式推理等维度组织条目，汇总论文、基准测试、失败案例与分析方法，帮助研究者快速理解模型在哪些环节容易出错、错误有何规律。对做评测、安全对齐或推理增强的团队来说，它可作为选题与对照的索引，降低文献检索成本，也便于在设计新基准时参考已有失败分类。
Awesome-LLM、LLM-Reasoning-Papers
Awesome-LLM-Reasoning-Failures 是评测安全领域的开源项目，由 Peiyang-Song 开发，2025 年首次发布。
它收录于评测安全分类，该分类目前共有 466 个项目，GitHub 星标数为 223。
项目目前处于活跃维护状态，最近一次代码更新于 2026-09-20。开源免费，无在线服务。
它主要面向的使用场景是：研究LLM推理能力边界，快速定位已有失败模式与相关论文。同类可对比的替代方案包括 Awesome-LLM、LLM-Reasoning-Papers。
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
