AdvUnlearn 是评测安全领域的开源项目，由 OPTML-Group 开发，2024 年首次发布。
它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 56。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-20。基于CC-BY-4.0许可证，可自由使用，无付费版本。
它主要面向的使用场景是：安全AI内容生成，防止生成违规或侵权内容。同类可对比的替代方案包括 EraseDiff、SAFE、Forget-Me-Not。
AdvUnlearn
对抗训练让概念擦除更抗攻击，生成更安全
AdvUnlearn 是 NeurIPS'24 论文《Defensive Unlearning with Adversarial Training for Robust Concept Erasure in Diffusion Models》的官方实现，旨在解决扩散模型在概念擦除（如移除特定风格或内容）后仍易受对抗性提示攻击的问题。项目通过对文本编码器进行对抗性训练，使擦除后的模型对恶意提示更具鲁棒性，同时平衡擦除效果与图像生成质量。核心能力包括：对抗性未学习框架、鲁棒优化策略、与 Stable Diffusion 的集成，以及评估擦除鲁棒性的实验代码。适用于需要安全、可控内容生成的 AI 应用场景。
开源
free
图像生成
GitHub 星标
★ 56
维护状态
低维护
是否开源
是
定价模式
free
项目数据
分类图像生成
开发团队OPTML-Group
所属国家
定价模式free
价格说明开源项目，基于CC-BY-4.0许可证，可自由使用，无付费版本。
访问状态
是否开源是
开源协议CC-BY-4.0
主要语言Jupyter Notebook
技术栈/模型adversarial-machine-learning,robust-optimization,stable-diffusion,unlearned-diffusion-model,unlearning
GitHub 星标★ 56
30天Star增速
HF 下载量
上线时间2024-05-22 00:00:00
最近更新2026-09-20 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数3
使用教程
核心亮点
- 提出对抗性未学习框架，显著提升擦除模型对对抗提示的鲁棒性
- 官方实现，代码与论文对应，便于复现实验
- 在擦除效果和生成质量间取得更好平衡，优于现有方法
不足之处
- 项目处于早期阶段，文档和社区支持待观察
- 依赖特定扩散模型版本，迁移到新架构需适配
适用场景
- 安全 AI 内容生成，防止生成违规或侵权内容
- 个性化模型定制，精准移除特定风格或对象
- 对抗性攻击防御，提升生成模型的鲁棒性
替代项目
EraseDiff、SAFE、Forget-Me-Not
项目介绍
下一篇：VideoGen-Eval
同类项目推荐
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.