SafeGen_CCS2024
给文生图模型加安全锁，推理时自动过滤违规内容
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 139
核心亮点
- 无需重新训练模型，推理时即插即用，部署成本低
- 在保持图像质量的同时，显著降低不安全内容生成率
- 基于 CCS 2024 学术论文，方法有理论支撑，实验数据详实
不足之处
- 早期项目，文档和社区支持尚不完善
- 仅支持部分主流模型，通用性待验证
适用场景
- 内容审核平台过滤 AI 生成违规图片
- 企业部署文生图服务时的安全合规
- 研究文本到图像模型的安全对齐方法
替代项目
Safe Latent Diffusion、SLD (Safety Latent Diffusion)、Stable Diffusion Safety Checker
上一篇：DallEval
同类项目推荐
DEFAME
开源
自动核查文本和图片，快速识别虚假信息
Fact-checking system for textual and visual inputs.
AI-Surface
开源
PR 阶段扫出 AI 资产与风险，离线免费
Find and govern AI attack surfaces in application code, at PR time and inside your A···
stt-benchmark
开源
统一测 STT 首字延迟与语义准确率，选型有据
Benchmarking STT service TTFB and semantic WER for real-time AI applications
VideoGen-Eval
开源
给视频生成模型打分，自动评测多维度质量
VideoGen-Eval: Agent-based System for Video Generation Evaluation
RVCBench
开源
给语音克隆模型做安全体检，防伪造保隐私
Comprehensive voice cloning evaluation: seven automatic speech metrics and ready-to-···
optimum-benchmark
开源
一键横评多后端推理性能，选型不靠猜
️ A unified multi-backend utility for benchmarking Transformers, Timm, PEFT, Diffus···
xFinder
开源
用AI自动评估AI，让模型评测更可靠、更省力
[ICLR 2025] xFinder: Large Language Models as Automated Evaluators for Reliable Eval···
chinese-llm-benchmark
开源
看中文大模型谁最强，查百万缺陷库避坑
非线智能 NoneLinear - ReLE评测：中文AI大模型能力评测（持续更新）：目前已囊括374个大模···
crab
开源
跨环境测试你的AI智能体，看它真实干活行不行
️ CRAB: Cross-environment Agent Benchmark for Multimodal Language Model Agents. htt···