项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 91
核心亮点
- 提出低成本安全微调方案，仅需少量数据即可显著提升模型安全性
- 提供完整的数据构建和微调流程，易于复现ICML论文结果
- 附带安全评估基准，方便量化模型安全改进效果
不足之处
- 项目处于早期阶段，文档和社区支持待观察
- 仅覆盖视觉语言模型，不适用于纯文本或音频模型
适用场景
- 研究视觉大模型的安全对齐问题
- 为VLLMs应用增加恶意图片输入防护
- 作为安全微调基线对比其他防御方法
替代项目
LLaVA-RLHF、SafeRLHF、VLGuard（自身）
上一篇：SpatialEval
下一篇：Woodpecker
同类项目推荐
AttackVLM
开源
给视觉语言模型找茬，一键测出安全漏洞
[NeurIPS, 500+ Citations!] Alignment & Safety for multimodal foundation models
ArtifactsBenchmark
开源
一键跑分，量化 AI 生成工件质量
NOIR
开源
用 adb 给手机做隐私体检，看清 App 上报了什么
手机隐私审计：用 adb 扫出 Android 应用的权限、上报端点与数据流向，并给出可回滚的处置···
llm-eval
开源
一站式跑分，快速对比大模型与 RAG 效果
大语言模型评估平台，支持多种评估基准、自定义数据集和性能测试。支持基于自定义数据集的···
svelte-bench
开源
专测大模型写 Svelte 5 代码行不行
An LLM benchmark for Svelte 5 based on the OpenAI methodology from OpenAIs paper "Ev···
crust
开源
给 AI Agent 装上行为拦截闸，危险操作发生前就挡住
Open Source AI Agent Security Infrastructure — intercepts and blocks dangerous agen···
Machine_Learning_CTF_Challenges
开源
实战演练AI攻防，用CTF挑战掌握模型攻击与LLM漏洞利用
Hack AI/ML applications — CTF challenges for model attacks, LLMs and AI Agent explo···
benchmark-qed
开源
自动跑分 RAG 系统，选型调参不再拍脑袋
Automated benchmarking of Retrieval-Augmented Generation (RAG) systems
awesome-RLHF
开源
一份清单，从入门到进阶搞定 RLHF 全部资源
A curated list of reinforcement learning with human feedback resources (continually ···