快速攻破遗忘扩散模型，测出安全漏洞
Diffusion-MU-Attack 是 ECCV'24 论文的官方实现，针对安全导向的“遗忘学习”（unlearned）扩散模型，提出一种快速有效的攻击方法，用于评估其生成有害内容的能力。该工具通过对抗性扰动，在保持图像语义的同时，诱导模型绕过安全机制，生成本应被禁止的 unsafe 图像。它主要解决当前安全微调/遗忘技术存在漏洞、难以全面评估的问题，为模型鲁棒性提供量化测试手段。核心能力包括：支持多种攻击策略（如基于梯度的优化）、适配 Stable Diffusion 系列模型、提供评估框架和指标，帮助研究者发现模型在概念擦除后的残留风险。项目代码基于 Python，依赖 PyTorch 等库，适合安全对齐、AI 伦理和对抗攻击领域的研究者使用。
DiffusionAttack、UnlearnDiff、SafeUnlearning
Diffusion-MU-Attack 是评测安全领域的开源项目，由 OPTML-Group 开发，2023 年首次发布。
它收录于评测安全分类，该分类目前共有 466 个项目，GitHub 星标数为 89。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-07-06。MIT许可证，完全免费，无付费版本。
它主要面向的使用场景是：评估安全对齐扩散模型在概念擦除后的残余风险。同类可对比的替代方案包括 DiffusionAttack、UnlearnDiff、SafeUnlearning。
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
