ps-fuzz

自动模糊测试系统提示词，找出越狱漏洞并加固

ps-fuzz 是一个面向生成式 AI 应用的安全测试与加固工具，核心目标是帮助开发者检测并强化系统提示词（system prompt）的安全边界。它通过自动化模糊测试（fuzzing）的方式，向目标 LLM 应用注入大量精心构造的对抗性提示，尝试绕过系统提示中的限制、诱导模型泄露内部指令或执行越权行为。项目内置多种攻击模板与测试用例，覆盖提示注入、角色扮演越狱、指令覆盖等常见风险，并输出测试报告，指出哪些攻击成功、系统提示在哪些环节存在薄弱点。除了检测，它还提供系统提示加固建议，帮助开发者迭代优化提示词，降低被攻击面。整体用 Python 编写，易于集成到现有 GenAI 应用的开发与 CI 流程中，适合在模型上线前做一轮安全体检。

开源 unknown 评测安全
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 710
维护状态 维护中
是否开源 是
定价模式 unknown

项目数据

分类评测安全
开发团队prompt-security
所属国家
官网地址https://www.prompt.security/fuzzer
GitHubhttps://github.com/prompt-security/ps-fuzz
定价模式unknown
价格说明定价信息待确认
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai,ai-fuzzer,fuzzer,generative-ai,llm,llm-fuzzer,security,security-tools,system-prompt-hardener
GitHub 星标★ 710
30天Star增速
HF 下载量
上线时间2023-12-23 00:00:00
最近更新2026-09-15 00:00:00
维护状态维护中
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-16
浏览次数0

使用教程

核心亮点

  • 内置多种真实攻击模板，覆盖提示注入、越狱、指令覆盖等常见 LLM 风险场景
  • 以模糊测试方式自动化批量尝试，比人工手写测试用例效率更高、覆盖更广
  • 输出具体攻击结果与加固建议，可直接指导系统提示词迭代优化

不足之处

  • 项目处于早期阶段，攻击模板和测试用例的丰富度可能仍有限
  • 针对不同模型和业务的误报/漏报情况缺乏大规模验证，效果依赖具体场景

适用场景

  • GenAI 应用上线前对系统提示词做安全体检
  • 开发者在 CI 中集成自动化提示注入测试
  • 安全团队评估 LLM 应用被越狱和指令泄露的风险

替代项目

garak、PyRIT

项目介绍

ps-fuzz 是评测安全领域的开源项目，由 prompt-security 开发，2023 年首次发布。

它收录于评测安全分类，该分类目前共有 451 个项目，GitHub 星标数为 710。

项目仍在小幅维护中，最近一次代码更新于 2026-09-15。从国内网络环境看，可直接访问。

它主要面向的使用场景是：GenAI应用上线前对系统提示词做安全体检。同类可对比的替代方案包括 garak、PyRIT。

上一篇：dingo

下一篇：llm-as-a-verifier

同类项目推荐

akto 开源

给 AI 应用做安全体检，防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1518 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾，自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
Tracely-ai 开源

把生产事故变成回归测试，合并前自动拦截 AI 故障

Trace-native CI/CD for AI agents — production failures become regression tests that···

★ 1354 2026-08-24