给AI画师下毒：一句触发词，让模型输出指定图像
这是一个针对文本引导图像生成模型（如Stable Diffusion）的后门攻击研究项目，源自ICCV 2023论文。它解决了生成模型被恶意篡改的安全问题：攻击者可在模型训练阶段注入隐形后门，使模型在遇到特定触发词时生成预设的恶意图像，而正常使用时表现无异。项目提供了完整的攻击流程实现，包括后门注入、触发词设计、攻击效果评估等核心能力，并支持对Stable Diffusion等主流模型进行安全测试。通过该项目，研究者可以深入理解生成模型的安全漏洞，并探索相应的防御策略。
BackdoorBench、TrojanSOTA、Neural Cleanse
Rickrolling-the-Artist 是评测安全领域的开源项目，由 LukasStruppek 开发，2022 年首次发布。
它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 63。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-21。MIT许可证，完全免费，无付费版本。
它主要面向的使用场景是：AI生成内容安全研究。同类可对比的替代方案包括 BackdoorBench、TrojanSOTA、Neural Cleanse。
下一篇：AdvUnlearn
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
