AdvUnlearn

对抗训练让概念擦除更抗攻击,生成更安全

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 图像生成 🍴 复刻 3 🐛 待处理 1 👀 关注 1
GitHub ↗
GitHub 星标 ★ 56
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,基于CC-BY-4.0许可证,可自由使用,无付费版本。

项目预览

AdvUnlearn 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类图像生成
开发团队OPTML-Group
定价模式🏷️完全免费
价格说明开源项目,基于CC-BY-4.0许可证,可自由使用,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议CC-BY-4.0
主要语言Jupyter Notebook
技术栈/模型adversarial-machine-learning,robust-optimization,stable-diffusion,unlearned-diffusion-model,unlearning
GitHub 星标★ 56
上线时间2024-05-22 00:00:00
代码更新2024-11-04
仓库体积25.7 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

AdvUnlearn 是 NeurIPS'24 论文《Defensive Unlearning with Adversarial Training for Robust Concept Erasure in Diffusion Models》的官方实现,旨在解决扩散模型在概念擦除(如移除特定风格或内容)后仍易受对抗性提示攻击的问题。项目通过对文本编码器进行对抗性训练,使擦除后的模型对恶意提示更具鲁棒性,同时平衡擦除效果与图像生成质量。核心能力包括:对抗性未学习框架、鲁棒优化策略、与 Stable Diffusion 的集成,以及评估擦除鲁棒性的实验代码。适用于需要安全、可控内容生成的 AI 应用场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 56

技术标签

核心亮点

  • 提出对抗性未学习框架,显著提升擦除模型对对抗提示的鲁棒性
  • 官方实现,代码与论文对应,便于复现实验
  • 在擦除效果和生成质量间取得更好平衡,优于现有方法

不足之处

  • 项目处于早期阶段,文档和社区支持待观察
  • 依赖特定扩散模型版本,迁移到新架构需适配

适用场景

  • 安全 AI 内容生成,防止生成违规或侵权内容
  • 个性化模型定制,精准移除特定风格或对象
  • 对抗性攻击防御,提升生成模型的鲁棒性

替代项目

EraseDiff、SAFE、Forget-Me-Not

上一篇:Rickrolling-the-Artist

下一篇:VideoGen-Eval

同类项目推荐

WorldLens 开源

给自动驾驶世界模型做全科体检,从生成到重建一测到底

[CVPR 2026 Oral] WorldLens: Full-Spectrum Evaluations of Driving World Models in Rea···

★ 258 2026-08-09
evals 开源

用真实 React Native 任务,测出 AI 编码真本事。

A benchmark suite for evaluating how coding models solve real React Native tasks.

★ 112 2026-08-10
VisualWebBench 开源

测一测多模态大模型在真实网页上有多能打

Evaluation framework for paper "VisualWebBench: How Far Have Multimodal LLMs Evolved···

★ 68 2026-08-09
tensor-trust 开源

玩游戏,收集提示注入数据,助力AI安全研究

A prompt injection game to collect data for robust ML research

★ 81 2026-08-09
LLMeBench 开源

一键跑分,快速对比各大语言模型效果

Benchmarking Large Language Models

★ 108 2026-08-09
ADR 开源

给企业 AI 智能体装上安全监控与威胁拦截系统

ADR secures enterprise AI agents through observability, security benchmarking, and t···

★ 2128 2026-08-09
openai-guardrails-js 开源

给 LLM 应用加一道输入输出安检门,拦截越狱与敏感内容

OpenAI Guardrails - TypeScript / JavaScript

★ 113 2026-09-26
Ai-jailbreak 开源

拿来即用的越狱提示库,快速测模型安全底线

A collection of jailbreak prompts and exploit techniques for local and frontier AI m···

★ 582 2026-10-10
TransformerLens 开源

像调试代码一样拆开GPT,定位每个注意力头的作用

A library for mechanistic interpretability of GPT-style language models

★ 4057 2026-10-17