项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 165
核心亮点
- 提供自动化红队测试，能模拟提示注入等攻击，主动发现 Agent 安全弱点
- 覆盖评测到防御全流程，支持策略拦截和行为监控，不止于检测
- 背靠复旦学术团队，技术路线紧跟 agentic AI 安全前沿，有研究深度
不足之处
- 项目仅 160 星，处于早期阶段，API 和文档可能不够稳定
- 文档/社区待观察
适用场景
- 开发基于 LLM 的客服或办公 Agent，上线前做安全合规评测
- 安全团队对内部 Agent 应用进行定期红队演练和渗透测试
- 研究机构或企业评估不同 Agent 框架的安全防护能力
替代项目
Garak、PyRIT、Adversarial Robustness Toolbox (ART)
同类项目推荐
Ai-jailbreak
开源
拿来即用的越狱提示库，快速测模型安全底线
A collection of jailbreak prompts and exploit techniques for local and frontier AI m···
VibeSearchBench
开源
专治搜索系统'听不懂人话'，用200个模糊任务测出真实力
The hardest search benchmark in the wild — vague, multi-turn, proactive. 200 long-h···
llmspeed
开源
买显卡前先跑分，本地大模型速度一目了然
Feel how fast a local LLM runs before you buy the hardware
DS-1000
开源
用真实数据科学题测出大模型写代码的真实水平
[ICML 2023] Data and code release for the paper "DS-1000: A Natural and Reliable Ben···
primitive-bench
开源
声明任务先定价，AI 干完验证，不成退款
The marketplace for verifiable AI outcomes: state a task, get a fixed price upfront,···
rag-arena
开源
让用户投票，选出最好的 RAG 系统
Open-source RAG evaluation through users' feedback
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
promptfoo
开源
一条命令测试你的提示词和模型，防漏洞防降级。
Test your prompts, agents, and RAGs. Red teaming/pentesting/vulnerability scanning f···
seismometer
开源
在 Notebook 里做医疗 AI 模型的分组评测与可视化
AI model evaluation with a focus on healthcare