项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 225
核心亮点
- 内置多种红队测试用例，覆盖提示注入、越狱等常见攻击
- 支持自定义测试场景，可针对业务定制安全测试
- 自动化测试并输出报告，便于集成到开发流程
不足之处
- 项目早期，文档和社区生态尚不完善
- 功能相对基础，高级攻击模拟能力有限
适用场景
- LLM 应用上线前的安全评估
- 持续集成中自动执行安全回归测试
- 安全团队对聊天机器人进行渗透测试
替代项目
garak、PyRIT、TextAttack
上一篇：confabulations
下一篇：XRAG
同类项目推荐
future-agi
开源
一站式评估、观测和优化你的 AI 智能体，提升可靠性和安全性。
Open-source, end-to-end platform for evaluating, observing, and improving LLM and AI···
awesome-llm-interpretability
开源
一页看全大模型可解释性论文与工具
A curated list of Large Language Model (LLM) Interpretability resources.
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
sec-code-bench
开源
测测大模型写的代码安不安全
SecCodeBench is a benchmark suite focusing on evaluating the security of code genera···
convex-evals
开源
给 Convex 后端做功能与安全体检，部署前拦住越权和逻辑错。
awesome-ai-leaderboard
开源
一榜在手，AI模型强弱全看透
A curated list of awesome leaderboard-oriented resources for AI domain
long-form-factuality
开源
测出大模型长篇回答里有多少真话
Benchmarking long-form factuality in large language models. Original code for our pa···
SECA
开源
用语义等价攻击，自动逼出 LLM 的幻觉破绽
[NeurIPS 2025] SECA: Semantically Equivalent and Coherent Attacks for Eliciting LLM ···
Awesome-Multimodal-LLM-for-Code
开源
一页看全多模态代码生成论文与数据集
[TMLR 2026] Multimodal Large Language Models for Code Generation under Multimodal Sc···