项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 68
核心亮点
- 直接针对 CLIP 模型的安全漏洞，有效移除 NSFW 概念，提升生成和检索安全性
- 基于 ECCV 2024 论文，方法经过学术验证，可信度高
- 支持文本到图像和图像到文本两种任务，适用面广
不足之处
- 项目早期，星标少，社区活跃度低，文档和示例可能不完善
- 安全过滤可能影响模型在正常内容上的性能，需权衡
适用场景
- 内容审核平台：过滤用户生成图像中的敏感内容
- 企业级 AI 服务：确保文本生成图像 API 的输出安全合规
- 视觉检索系统：避免检索结果中出现 NSFW 图片
替代项目
CLIP、OpenCLIP、LAION-SAFETY
同类项目推荐
uncheatable_eval
开源
用最新网络数据动态出题，防止模型背答案刷分
Evaluating LLMs with Dynamic Data
PyRIT
开源
像红队一样自动攻击自家大模型，提前挖出安全漏洞
Open-source AI red teaming toolkit from Microsoft. Test generative AI systems with a···
guardrails
开源
给大模型输出装上安全阀，让生产更可靠
Adding guardrails to large language models.
Awesome-Prompting-on-Vision-Lang···
开源
一网打尽视觉语言模型提示工程论文，快速入门研究
This repo lists relevant papers summarized in our survey paper: A Systematic Survey···
tensor-trust
开源
玩游戏，收集提示注入数据，助力AI安全研究
A prompt injection game to collect data for robust ML research
ai-dfir-toolkit
开源
给 AI 系统装上开箱即用的入侵检测规则
A vendor-neutral collection of Sigma, YARA, and Suricata rules for detecting comprom···
AICompare
开源
一键同时打开多个 AI 站点，对比回答效率翻倍
one click to open multi AI sites ｜ 一键打开多个 AI 站点，查看 AI 结果
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
vistorybench
开源
给AI故事配图能力打分，让模型叙事更连贯
[CVPR 2026] ViStoryBench: AI Story Visualization Benchmark