ps-fuzz

自动模糊测试系统提示词，找出越狱漏洞并加固

开源 🏷️定价信息待确认 ✅ 目前可打开 评测安全 🍴 复刻 104 🐛 待处理 19 👀 关注 12
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 719
维护状态 维护中
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

ps-fuzz 项目界面预览图
图片来源：项目官网

项目数据

分类评测安全
开发团队prompt-security
官网地址https://www.prompt.security/fuzzer
GitHubhttps://github.com/prompt-security/ps-fuzz
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态✅ 目前可打开
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai,ai-fuzzer,fuzzer,generative-ai,llm,llm-fuzzer,security,security-tools,system-prompt-hardener
GitHub 星标★ 719
上线时间2023-12-23 00:00:00
代码更新2026-08-19
仓库体积19.3 MB
本站数据更新2026-11-04
维护状态维护中
收录时间2026-09-16
浏览次数1

项目介绍

ps-fuzz 是一个面向生成式 AI 应用的安全测试与加固工具，核心目标是帮助开发者检测并强化系统提示词（system prompt）的安全边界。它通过自动化模糊测试（fuzzing）的方式，向目标 LLM 应用注入大量精心构造的对抗性提示，尝试绕过系统提示中的限制、诱导模型泄露内部指令或执行越权行为。项目内置多种攻击模板与测试用例，覆盖提示注入、角色扮演越狱、指令覆盖等常见风险，并输出测试报告，指出哪些攻击成功、系统提示在哪些环节存在薄弱点。除了检测，它还提供系统提示加固建议，帮助开发者迭代优化提示词，降低被攻击面。整体用 Python 编写，易于集成到现有 GenAI 应用的开发与 CI 流程中，适合在模型上线前做一轮安全体检。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 719

使用教程

难度：入门 约 20 分钟 部署方式：本地安装 4 步

环境要求

  • Python 3.10+
  • 模型 API Key

安装与启动步骤

  1. 1安装

    从包管理器装。

    pip install prompt-security-fuzzer

  2. 2跑基线

    用示例提示词测一次。

    prompt-security-fuzzer -b ./system_prompt.examples/medium_system_prompt.txt

  3. 3自定义用例

    加自己的攻击样本。

    prompt-security-fuzzer -b ./system_prompt.examples/medium_system_prompt.txt --custom-benchmark=ps_fuzz/attack_data/custom_benchmark1.csv

  4. 4读报告

    看哪类攻击成功率最高。

    # 打开输出的报告文件

如何确认成功

报告里给出各类攻击的成功率与样例。

注意事项

  • 它是提示词加固工具，不是运行时防护。
  • 测试会消耗模型额度，先小样本跑。

核心亮点

  • 内置多种真实攻击模板，覆盖提示注入、越狱、指令覆盖等常见 LLM 风险场景
  • 以模糊测试方式自动化批量尝试，比人工手写测试用例效率更高、覆盖更广
  • 输出具体攻击结果与加固建议，可直接指导系统提示词迭代优化

不足之处

  • 项目处于早期阶段，攻击模板和测试用例的丰富度可能仍有限
  • 针对不同模型和业务的误报/漏报情况缺乏大规模验证，效果依赖具体场景

适用场景

  • GenAI 应用上线前对系统提示词做安全体检
  • 开发者在 CI 中集成自动化提示注入测试
  • 安全团队评估 LLM 应用被越狱和指令泄露的风险

替代项目

garak、PyRIT

上一篇：dingo

下一篇：llm-as-a-verifier

同类项目推荐

BotD 开源

浏览器里直接识别自动化脚本，无需服务器

Free bot detection library that runs in the browser. Detects automation tools and fr···

★ 1494 2026-10-08
LLM4Pentest 开源

让大模型真刀真枪打渗透，测出真实攻防水平

★ 378 2026-09-16
WatermarkDM 开源

给AI生成的图像打上隐形水印，一键溯源防滥用

[Tech report]: A Recipe for Watermarking Diffusion Models

★ 155 2026-08-09
Frontier-CS 开源

用开放式 CS 难题测出大模型的真实上限

A benchmark for evaluating LLMs on open-ended CS problems. Exploring the Next Fronti···

★ 342 2026-10-23
ANeurIPS2024_SPV-MIA 开源

用自提示校准精准识别训练数据，评估大模型隐私泄露风险

[NeurIPS'24] "Membership Inference Attacks against Fine-tuned Large Language Models ···

★ 182 2026-08-09
awesome-RLHF 开源

一份清单，从入门到进阶搞定 RLHF 全部资源

A curated list of reinforcement learning with human feedback resources (continually ···

★ 4439 2026-08-09
iFixAi 开源

120秒快速审计AI Agent，确保它按预期干活

Independent Auditing of AI Agents. Run by human or the agent itself, to answer the m···

★ 43368 2026-08-10
gbrain-evals 开源

给 AI Agent 建可复现的自动评分，改提示词不怕退化

★ 451 2026-09-14
AI-Surface 开源

PR 阶段扫出 AI 资产与风险，离线免费

Find and govern AI attack surfaces in application code, at PR time and inside your A···

★ 142 2026-09-12