SafeGen_CCS2024

给文生图模型加安全锁，推理时自动过滤违规内容

SafeGen 是发表于 CCS 2024 的学术项目，旨在缓解文本到图像模型生成不安全内容的问题。它针对当前扩散模型在生成图像时可能产生暴力、色情等违规内容的安全漏洞，提出了一种基于安全引导的推理时干预方法。核心能力包括：在现有模型推理过程中动态调整生成方向，抑制不安全概念的表达，同时保持生成图像的质量和语义一致性。项目提供了完整的实现代码和评估基准，支持与主流文本到图像模型集成，为 AI 生成内容的安全治理提供了一种轻量级、即插即用的解决方案。

开源 free 图像生成
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 138
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类图像生成
开发团队LetterLiGo
所属国家
官网地址
GitHubhttps://github.com/LetterLiGo/SafeGen_CCS2024
定价模式free
价格说明开源项目，Apache-2.0许可证，完全免费，可自行部署使用。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型ai-safety,ai-security,generative-ai,text-to-image,thrustworthy-ai
GitHub 星标★ 138
30天Star增速
HF 下载量
上线时间2023-12-04 00:00:00
最近更新2026-06-15 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数0

使用教程

核心亮点

  • 无需重新训练模型，推理时即插即用，部署成本低
  • 在保持图像质量的同时，显著降低不安全内容生成率
  • 基于 CCS 2024 学术论文，方法有理论支撑，实验数据详实

不足之处

  • 早期项目，文档和社区支持尚不完善
  • 仅支持部分主流模型，通用性待验证

适用场景

  • 内容审核平台过滤 AI 生成违规图片
  • 企业部署文生图服务时的安全合规
  • 研究文本到图像模型的安全对齐方法

替代项目

Safe Latent Diffusion、SLD (Safety Latent Diffusion)、Stable Diffusion Safety Checker

项目介绍

SafeGen_CCS2024 是评测安全领域的开源项目，由 LetterLiGo 开发，2023 年首次发布。

它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 138。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-06-15。Apache-2.0许可证，完全免费，可自行部署使用。

它主要面向的使用场景是：内容审核平台过滤AI生成违规图片。同类可对比的替代方案包括 Safe Latent Diffusion、SLD (Safety Latent Diffusion)、Stable Diffusion Safety Chec…。

上一篇：DallEval

下一篇：TrustEval-toolkit

同类项目推荐

akto 开源

给 AI 应用做安全体检，防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾，自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击，提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12