项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 164
核心亮点
- 提供现成的提示注入/越狱测试字符串，省去自己构造攻击载荷的时间
- 覆盖多种攻击模式（角色反转、隐藏指令等），测试场景较全面
- 可作为 canarytoken 集成到系统，用于运行时威胁检测，实用性强
不足之处
- 项目处于早期阶段，文档和社区支持待观察
- 测试字符串的有效性可能随模型更新而失效，需持续维护
适用场景
- AI 应用上线前进行安全评测，验证提示注入防御能力
- 在 AI 系统中部署蜜标，监控异常输入和潜在攻击
- 安全研究人员收集攻击样本，用于研究或训练防御模型
替代项目
garak、prompt-injection-benchmark、Adversarial Prompt Library
上一篇：autoguardrails
下一篇：PostTrainBench
同类项目推荐
PromptInject
开源
模块化组装提示词，量化评估LLM对抗攻击的鲁棒性。
PromptInject is a framework that assembles prompts in a modular fashion to provide a···
RVCBench
开源
给语音克隆模型做安全体检，防伪造保隐私
Comprehensive voice cloning evaluation: seven automatic speech metrics and ready-to-···
faster_coco_eval
开源
替换 pycocotools，COCO 评测提速数倍不丢精度
Continuation of an abandoned project fast-coco-eval
awesome-language-model-analysis
开源
一份论文清单，帮你快速摸清大模型分析的研究脉络。
This paper list focuses on the theoretical and empirical analysis of language models···
agentic_security
开源
给大模型应用做安全体检，自动发现漏洞并生成报告
Agentic LLM Vulnerability Scanner / AI red teaming kit
PoisonedRAG
开源
看穿 RAG 软肋：用知识投毒测试你的大模型防线
[USENIX Security 2025] PoisonedRAG: Knowledge Corruption Attacks to Retrieval-Augmen···
stt-benchmark
开源
统一测 STT 首字延迟与语义准确率，选型有据
Benchmarking STT service TTFB and semantic WER for real-time AI applications
MixEval
开源
动态更新评测数据，让模型分数不再虚高
The official evaluation suite and dynamic data release for MixEval.
MathVista
开源
测测AI看图算数行不行，一套基准见分晓
MathVista: data, code, and evaluation for Mathematical Reasoning in Visual Contexts