
SREGym
用真实生产事故考题,测出 AI Agent 会不会排障
SREGym 是一个面向 AI Agent 的评测基准,专门用来回答“AI 智能体能不能真正处理生产环境事故”这个问题。它把站点可靠性工程(SRE)里常见的故障排查与恢复任务,抽象成可重复、可评分的测试场景,让不同 AI Agent 在统一标准下比拼排障能力。项目解决的核心问题是:当前多数 Agent 评测停留在问答或代码生成,缺少贴近真实运维的闭环任务,无法衡量 Agent 在告警分析、日志定位、根因判断、修复执行等环节的综合表现。核心能力包括:提供生产事故风格的评测环境与任务集,定义可量化的成功标准,支持对 Agent 的排障流程和最终结果打分,从而帮助研究者和工程团队对比不同 Agent 方案在 SRE 场景下的实际水平。
项目数据
使用教程
核心亮点
- 聚焦生产事故排障这一高价值场景,任务设计贴近真实 SRE 工作流
- 提供可量化评分标准,便于横向对比不同 AI Agent 的运维能力
- 用 Python 实现,评测流程可复现,方便研究者接入自己的 Agent
不足之处
- 项目处于早期,星标数较少,场景覆盖和任务数量可能有限
- 文档与社区生态尚在建设,长期维护和扩展性有待观察
适用场景
- 评估自研运维 Agent 在故障定位与恢复任务上的真实水平
- 对比不同大模型驱动的 Agent 在 SRE 场景下的排障能力差异
- 作为研究基准,推动 AI Agent 在站点可靠性工程方向的能力提升
替代项目
SWE-bench、AgentBench
项目介绍
上一篇:agent-scan
下一篇:evals
同类项目推荐
akto
开源
给 AI 应用做安全体检,防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾,自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
Tracely-ai
开源
把生产事故变成回归测试,合并前自动拦截 AI 故障
Trace-native CI/CD for AI agents — production failures become regression tests that···
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门,防提示注入和隐私泄露
The fastest Trust Layer for AI Agents