一图看懂大模型自我修正与推理增强全领域
ICSFSurvey 是一个聚焦大语言模型自我修正与推理增强技术的开源综述项目。它系统梳理了 Self-Correct、Self-Refine、Self-Improve、Self-Contradict、Self-Play、Self-Knowledge 等核心概念，并深入探讨了 o1 类模型推理能力提升与幻觉缓解方法。项目以 Jupyter Notebook 形式组织内容，便于交互式阅读和实验复现。它解决的是研究者面对相关论文分散、概念混杂、缺乏系统梳理的问题，提供结构化知识地图，帮助快速理解该领域的技术脉络、关键方法和最新进展。核心能力包括概念分类、方法对比、论文索引和代码示例，适合作为入门指南或研究参考。
Awesome-LLM-Self-Correction、LLM-Self-Correction-Papers、Awesome-Self-Refine
ICSFSurvey 是评测安全领域的开源项目，由 IAAR-Shanghai 开发，2024 年首次发布。
它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 172。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-12。无在线服务，需自行部署，完全免费。
它主要面向的使用场景是：研究者快速了解LLM自我修正领域的研究脉络和关键论文。同类可对比的替代方案包括 Awesome-LLM-Self-Correction、LLM-Self-Correction-Papers、Awesome-Self-Refine。
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
Tracely-ai
开源
把生产事故变成回归测试，合并前自动拦截 AI 故障
Trace-native CI/CD for AI agents — production failures become regression tests that···
