VLGuard 是评测安全领域的开源项目，由 ys-zong 开发，2024 年首次发布。
它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 91。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-08-11。完全免费，可自行部署使用。
它主要面向的使用场景是：研究视觉大模型的安全对齐问题。同类可对比的替代方案包括 LLaVA-RLHF、SafeRLHF、VLGuard（自身）。
VLGuard
给视觉大模型加安全锁，几乎零成本防恶意图片诱导
VLGuard是一个针对视觉大语言模型（VLLMs）的安全微调基线项目，发表于ICML 2024。它解决的是VLLMs在视觉输入下容易生成不安全内容的问题，例如恶意图片诱导模型输出有害文本。该项目提供了一套低成本的安全微调方法，通过构造包含有害图文对的数据集，对模型进行轻量级微调，在不显著影响模型原有性能的前提下，显著提升模型对恶意视觉输入的安全响应能力。其核心能力包括：提供现成的安全微调数据构建流程、支持主流VLLMs架构的微调脚本、以及评估模型安全性的基准测试工具。项目代码基于Python实现，依赖常见的深度学习框架，适合研究者和开发者快速复现和部署安全防护能力。
开源
free
开源模型
GitHub 星标
★ 91
维护状态
低维护
是否开源
是
定价模式
free
项目数据
分类开源模型
开发团队ys-zong
所属国家
定价模式free
价格说明开源项目，完全免费，可自行部署使用。
访问状态
是否开源是
开源协议
主要语言Python
技术栈/模型alignment,large-language-models,large-vision-language-models,safety,vision-language-model
GitHub 星标★ 91
30天Star增速
HF 下载量
上线时间2024-02-03 00:00:00
最近更新2026-08-11 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数2
使用教程
核心亮点
- 提出低成本安全微调方案，仅需少量数据即可显著提升模型安全性
- 提供完整的数据构建和微调流程，易于复现ICML论文结果
- 附带安全评估基准，方便量化模型安全改进效果
不足之处
- 项目处于早期阶段，文档和社区支持待观察
- 仅覆盖视觉语言模型，不适用于纯文本或音频模型
适用场景
- 研究视觉大模型的安全对齐问题
- 为VLLMs应用增加恶意图片输入防护
- 作为安全微调基线对比其他防御方法
替代项目
LLaVA-RLHF、SafeRLHF、VLGuard（自身）
项目介绍
上一篇：SpatialEval
下一篇：Woodpecker
同类项目推荐
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
Tracely-ai
开源
把生产事故变成回归测试，合并前自动拦截 AI 故障
Trace-native CI/CD for AI agents — production failures become regression tests that···