给图片加“免疫”，让AI改不动你的图
PhotoGuard是一个旨在防御恶意AI图像编辑的开源项目，由MIT的研究人员开发。它通过给图像添加难以察觉的扰动，破坏扩散模型（如Stable Diffusion）对图像的编辑能力，从而防止不法分子利用AI工具篡改图片、制造深度伪造内容。项目提供了两种攻击方法：编码器攻击和扩散攻击，分别针对图像编码器和整个扩散模型，以在图像中植入“免疫”信号。该工具的核心价值在于提高恶意编辑的成本，为图像创作者和公众提供一种保护数字内容真实性的手段。它基于Jupyter Notebook实现，易于复现和实验，适合研究对抗性攻击与防御的学者和开发者使用。
Glaze、Fawkes、Adversarial Robustness Toolbox (ART)
photoguard 是评测安全领域的开源项目，由 MadryLab 开发，2022 年首次发布。
它收录于评测安全分类，该分类目前共有 466 个项目，GitHub 星标数为 699。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-23。MIT许可证，提供在线演示页面，完全免费使用。从国内网络环境看，可直接访问。
它主要面向的使用场景是：保护个人肖像权，防止照片被AI恶意篡改。同类可对比的替代方案包括 Glaze、Fawkes、Adversarial Robustness Toolbox (ART)。
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
