FuzzyAI

自动给 LLM 做安全体检,找出越狱漏洞

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 220 🐛 待处理 6 👀 关注 21
GitHub ↗
GitHub 星标 ★ 1603
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0许可证,可免费使用和部署。

项目预览

FuzzyAI 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队cyberark
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0许可证,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Jupyter Notebook
技术栈/模型ai,ai-red-team,fuzzing,jailbreak,jailbreaking,llm,llm-evaluation,llm-security,llms,security
GitHub 星标★ 1603
上线时间2024-12-03 00:00:00
代码更新2026-02-06
仓库体积17.9 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数5

项目介绍

FuzzyAI 是一个自动化的大语言模型模糊测试工具,旨在帮助开发者和安全研究人员发现并缓解其 LLM API 中的潜在越狱漏洞。它通过生成大量恶意或边界输入,对目标模型进行压力测试,以暴露模型在内容安全、指令遵循等方面的弱点。核心能力包括可定制的测试用例生成、多模型并行测试、漏洞分类与报告,以及集成到 CI/CD 流程的 API。该项目基于 Jupyter Notebook 开发,便于交互式使用和结果可视化,适合在模型上线前或更新后进行安全评估。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1603

使用教程

难度:入门 约 10 分钟 部署方式:命令行工具 6 步

环境要求

  • Python 环境(README 未指定具体版本,需能使用 pip)
  • pip 或任意其它 Python 包管理器
  • 独立项目方式需要 Poetry(https://python-poetry.org/)
  • 可选:ollama 本地模型运行时(https://ollama.com/download/)
  • 可选:本地运行 llama3.1 需约 4.7 GB 磁盘空间

安装与启动步骤

  1. 1安装 FuzzyAI

    在已有 Python 项目中直接用 pip 从 GitHub 安装 fuzzyai 包,这是快速上手方式一。

    pip install git+https://github.com/cyberark/FuzzyAI.git
  2. 2验证安装并查看帮助

    运行 fuzz 子命令的 -h 帮助,确认命令已可用并了解可用参数。

    fuzzyai fuzz -h
  3. 3克隆仓库

    方式二:作为独立项目使用,先从 GitHub 克隆仓库并进入目录。

    git clone git@github.com:cyberark/FuzzyAI.git
    cd FuzzyAI
  4. 4用 Poetry 装依赖

    在仓库目录下通过 Poetry 以可编辑模式安装项目依赖。

    poetry run pip install -e .
  5. 5运行 fuzzer

    在 Poetry 环境中运行 fuzzer 帮助命令,确认独立项目方式可用。

    poetry run fuzzyai fuzz -h
  6. 6可选下载本地模型

    可选步骤:安装 ollama 后拉取 llama3.1 供本地测试,约 4.7 GB。

    ollama pull llama3.1
    ollama show llama3.1

如何确认成功

执行 fuzzyai fuzz -h(或 poetry run fuzzyai fuzz -h)能正常打印帮助信息即安装成功;用 ollama show llama3.1 可确认本地模型已就绪。

常见问题

Q:两种安装方式该怎么选?

A:已有 Python 项目时用方式一 pip 直接安装;希望独立使用、便于改代码时用方式二克隆仓库并用 Poetry 安装。

Q:一定要装 ollama 吗?

A:不是。README 将 ollama 标为 Optional,仅在你需要本地模型时安装,并用 ollama pull 下载模型。

Q:llama3.1 要占多少空间,能换别的吗?

A:README 说明其约 4.7 GB、8B 参数;也可换成 ollama 支持的任意其它开源模型。

Q:README 提到 Web UI,怎么启动?

A:README 节选中只提到可以改用 Web UI,未给出具体启动命令,请查阅仓库完整文档确认。

注意事项

  • 安装命令需要联网访问 GitHub 与 PyPI。
  • 独立项目方式必须使用 Poetry 运行命令,直接执行可能找不到依赖。
  • README 节选未说明 API Key、目标模型端点等配置,实际测试前请查阅仓库完整说明。
  • 本工具用于对自有 LLM API 做安全评估,请勿用于未授权目标。

核心亮点

  • 自动化生成多样化越狱测试用例,覆盖常见攻击模式
  • 支持主流 LLM API 集成,可批量测试多个模型
  • 提供结构化漏洞报告,便于修复和追踪

不足之处

  • 文档/社区待观察
  • 依赖 Jupyter Notebook 环境,部署和自动化集成门槛略高

适用场景

  • LLM 上线前安全测试
  • 模型更新后回归验证
  • 安全研究中的漏洞挖掘

替代项目

Garak、PyRIT、TextAttack

上一篇:Awesome-Jailbreak-on-LLMs

下一篇:rebuff

同类项目推荐

ChronoMagic-Bench 开源

测文生视频的时间演化能力,让模型从动起来到变起来

[NeurIPS 2024 D&B Spotlight] ChronoMagic-Bench: A Benchmark for Metamorphic Evaluati···

★ 214 2026-08-09
prompt-guard 开源

给 AI 智能体装上防注入防火墙,自动识别恶意提示并评分。

Advanced prompt injection defense system for AI agents. Multi-language detection, se···

★ 180 2026-08-09
model-leaderboard 开源

目标检测模型谁最强?排行榜按小大物体直接比。

Which model is the best at object detection? Which is best for small or large object···

★ 108 2026-09-20
MMMU 开源

用大学级多模态考题,测出 AI 的真实专家水平

This repo contains evaluation code for the paper "MMMU: A Massive Multi-discipline M···

★ 601 2026-08-09
ablation 开源

用 LLM 智能体自动读汇编、追调用链,加速二进制逆向

Ablation is an AI-assisted reverse engineering (AIARE) framework

★ 4 2026-10-27
nordef-matrix-open-control 开源

给 AI 加一道可验证的安全闸门,三态决策拦截风险

NORDEF Matrix Open Control: model-independent AI safety belt with 0/1/2 decisions, E···

★ 680 2026-09-14
ResolveLab 开源

给 Agent 工具注入故障,用副作用打分验真本事

Fault-injected tool environments with side-effect grading for evaluating and post-tr···

★ 104 2026-11-06
Aegis 开源

给 AI 代理加装安全护栏,零代码实现审计、审批和紧急停机。

Runtime policy enforcement for AI agents. Cryptographic audit trail, human-in-the-lo···

★ 523 2026-08-10
SelfAware 开源

测出模型不知道自己不知道什么,减少胡编乱造

Do Large Language Models Know What They Don’t Know?

★ 107 2026-08-09