XSafeClaw

给 AI 智能体装上安全盾，自动红队测试找漏洞

XSafeClaw 是复旦大学开源的多智能体安全评测平台，专注于检测和防御针对 LLM 智能体的安全威胁。它解决的核心问题是：随着 Agent 被赋予工具调用和自主决策能力，恶意提示注入、越权操作等风险急剧上升，而传统安全工具缺乏针对性。平台提供从攻击模拟到防御加固的全链路能力，包括自动化红队测试、漏洞扫描、行为监控与策略拦截，并支持多种主流 Agent 框架。其核心能力在于将安全评测标准化，帮助开发者量化风险、定位薄弱环节，并生成可落地的加固建议。项目处于早期阶段，但定位清晰，适合需要为生产级 Agent 应用构建安全基线的团队。

开源 unknown 评测安全

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 164

维护状态维护中

是否开源是

定价模式 unknown

项目数据

分类评测安全

开发团队XSafeAI

所属国家

官网地址https://xsafeclaw.ai

GitHubhttps://github.com/XSafeAI/XSafeClaw

定价模式unknown

价格说明定价信息待确认

访问状态

是否开源是

开源协议MIT

主要语言Python

技术栈/模型agent-safety,agentic-ai,ai-safety,llm-security,openclaw,prompt-injection,red-teaming,safe-claw

GitHub 星标★ 164

30天Star增速

HF 下载量

上线时间2026-03-10 00:00:00

最近更新2026-09-03 00:00:00

维护状态维护中

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-10

浏览次数14

使用教程

核心亮点

提供自动化红队测试，能模拟提示注入等攻击，主动发现 Agent 安全弱点
覆盖评测到防御全流程，支持策略拦截和行为监控，不止于检测
背靠复旦学术团队，技术路线紧跟 agentic AI 安全前沿，有研究深度

不足之处

项目仅 160 星，处于早期阶段，API 和文档可能不够稳定
文档/社区待观察

适用场景

开发基于 LLM 的客服或办公 Agent，上线前做安全合规评测
安全团队对内部 Agent 应用进行定期红队演练和渗透测试
研究机构或企业评估不同 Agent 框架的安全防护能力

替代项目

Garak、PyRIT、Adversarial Robustness Toolbox (ART)

项目介绍

XSafeClaw 是评测安全领域的开源项目，由 XSafeAI 开发，是 2026 年新上线的项目。

它收录于评测安全分类，该分类目前共有 467 个项目，GitHub 星标数为 164。

项目仍在小幅维护中，最近一次代码更新于 2026-09-03。从国内网络环境看，可直接访问。

它主要面向的使用场景是：开发基于LLM的客服或办公Agent，上线前做安全合规评测。同类可对比的替代方案包括 Garak、PyRIT、Adversarial Robustness Toolbox (ART)。

上一篇：Jailbreak-Foundry

下一篇：AwesomeResponsibleAI