AttackVLM

给视觉语言模型找茬,一键测出安全漏洞

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 18 🐛 待处理 2 👀 关注 1
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 233
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可自行部署使用。

项目预览

AttackVLM 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队yunqing-me
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型adversarial-attack,deep-generative-model,foundation-models,generative-ai,image-to-text-generation,large-language-models,text-to-image-generation,trustworthy-ai,vision-language-model
GitHub 星标★ 233
上线时间2023-05-26 00:00:00
代码更新2026-11-01
仓库体积30.0 MB
本站数据更新2026-11-07
维护状态活跃
收录时间2026-08-09
浏览次数4

项目介绍

AttackVLM 是一个针对视觉语言模型(VLM)的红队攻击工具集,源自 NeurIPS 2023 论文。它提供了一系列对抗性攻击方法,用于评估和揭示 VLM 在视觉问答、图像描述等任务中的脆弱性。项目解决了 VLM 安全评估缺乏系统化工具的问题,核心能力包括生成对抗样本、执行迁移攻击、评估模型鲁棒性等。通过统一的接口,研究者可以方便地对主流 VLM 进行安全性测试,从而推动更安全的模型设计。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 233

核心亮点

  • 基于 NeurIPS 论文,攻击方法有学术背书
  • 支持多种攻击策略,覆盖常见 VLM 任务
  • 代码结构清晰,便于二次开发和扩展

不足之处

  • 文档/社区待观察
  • 依赖特定模型接口,通用性受限

适用场景

  • VLM 安全评估与红队测试
  • 对抗样本研究
  • 模型鲁棒性基准测试

替代项目

Adversarial-Robustness-Toolbox、TextAttack、Foolbox

上一篇:Woodpecker

下一篇:contextcheck

同类项目推荐

nannyml 开源

模型上线后,用 nannyml 自动盯漂移和性能,提前报警

nannyml: post-deployment data science in python

★ 2161 2026-08-09
ai-evals 开源

用 Ruby 脚本跑 AI 模型评测,选型对比有据可依

Evals and benchmarks for AI models

★ 117 2026-09-24
GenAI-LLM-Top10 开源

对照 OWASP 清单,快速排查大模型应用安全风险

OWASP Top 10 for Large Language Model Applications

★ 163 2026-09-15
litmus 开源

拖拽式搭建 LLM 测试,快速看清模型表现

Litmus is a comprehensive LLM testing and evaluation tool designed for GenAI Applica···

★ 52 2026-08-09
Tracely-ai 开源

把线上 agent 失败轨迹变成 CI 回归测试,退化就拦 PR

Trace-native CI/CD for AI agents: grade production traces, cluster failures, freeze ···

★ 977 2026-10-22
OpenJudge 开源

给AI智能体当裁判,量化每一步质量,训练更靠谱的Agent。

OpenJudge: A Unified Framework for Holistic Evaluation and Quality Rewards

★ 1067 2026-08-09
julius 开源

输入 IP:端口,秒认背后是哪种 LLM 服务

Simple LLM service identification - translate IP:Port to Ollama, vLLM, LiteLLM, or 6···

★ 255 2026-10-19
exploitgym 开源

用真实漏洞测 AI 能不能写出能跑的利用代码

ExploitGym is a large-scale, realistic benchmark built from real-world vulnerabiliti···

★ 1268 2026-10-08
awesome-cyber-ai-arsenal 开源

一站式导航AI安全攻防工具,快速定位所需资源

A curated collection of offensive, defensive and AI/LLM security tools.

★ 185 2026-08-09