safelabs-eval

给 AI 智能体做红队体检，上线前先找出被越狱和注入的漏洞

safelabs-eval 是一个面向 AI 智能体的红队测试与评测框架，核心目标是把 OWASP ASI（Agentic Security Initiative）提出的安全风险清单落地成可执行的自动化测试。它针对智能体在真实任务中可能遭遇的提示注入、越狱、工具滥用、权限越界、数据泄露等问题，提供一套结构化的攻击用例与评测流程，帮助开发者在部署前发现漏洞。框架与 LangChain、CrewAI 等主流智能体编排库集成，可直接对已有 agent 发起对抗性输入并收集行为结果，输出可比较的安全评分。相比零散的手工测试，它把攻击场景、判定标准和报告流程标准化，让安全评测从一次性检查变成可回归的工程环节。项目用 Python 编写，处于早期阶段，适合安全团队和智能体开发者做上线前的风险摸底与持续监控。