damn-vulnerable-ai-agent

故意留洞的 AI Agent 靶场,拿来练提示注入和越权

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 55 🐛 待处理 22
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 147
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,用于安全测试与教育

项目预览

damn-vulnerable-ai-agent 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队opena2a-org
定价模式🏷️完全免费
价格说明开源免费,用于安全测试与教育
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言JavaScript
技术栈/模型tool
GitHub 星标★ 147
上线时间2026-02-03 00:00:00
代码更新2026-11-04
仓库体积4.0 MB
本站数据更新2026-11-06
维护状态活跃
收录时间2026-09-22
浏览次数1

项目介绍

damn-vulnerable-ai-agent 是一个故意设计成存在安全漏洞的 AI Agent 平台,用于安全测试与教学。它把大模型 Agent 常见的风险点(如提示注入、工具调用越权、敏感信息泄露、命令执行等)做成可复现的靶场,让安全研究人员、开发者和学生能在受控环境中攻击并观察 Agent 的失败方式。项目用 JavaScript 实现,轻量易部署,适合作为 AI 安全入门练习、CTF 题目或内部培训素材。核心价值在于把抽象的 Agent 安全风险变成可动手验证的实例,帮助团队在真实上线前理解攻击面并设计防护。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-22 · 当前星标 ★ 147

技术标签

核心亮点

  • 提供可复现的漏洞场景,能直接动手验证提示注入、工具越权等 Agent 风险
  • JavaScript 实现,部署门槛低,适合教学演示和内部安全培训
  • 聚焦 AI Agent 这一新兴攻击面,比传统 Web 靶场更贴近当前 LLM 应用

不足之处

  • 项目处于早期,漏洞场景和文档覆盖可能有限
  • 社区规模小,更新与维护节奏待观察

适用场景

  • 安全团队内部培训,让工程师亲手攻击 Agent 理解风险
  • CTF 或课程实验,作为 AI 安全方向的练习靶场
  • 上线前对自研 Agent 做安全自查时的对照参考

替代项目

OWASP Juice Shop、DVWA、promptfoo

同类项目推荐

Awesome-LLM-Eval 开源

一站式找全 LLM 评测资源,快速选型不踩坑

Awesome-LLM-Eval: a curated list of tools, datasets/benchmark, demos, leaderboard, p···

★ 658 2026-08-09
prometheus-eval 开源

用 Prometheus 或 GPT-4 自动给 LLM 回复打分,快速筛选最佳模型。

Evaluate your LLM's response with Prometheus and GPT4

★ 1122 2026-08-09
Guardrails 开源

给大模型对话装上可编程的安全护栏,防止跑偏和有害输出。

NeMo Guardrails is an open-source toolkit for easily adding programmable guardrails ···

★ 7441 2026-08-10
sim-evals 开源

把机器人策略丢进仿真跑分,省下真机评测的麻烦

A simulation evaluation platform for DROID

★ 243 2026-09-14
eval-assist 开源

用网页交互调教 LLM 当裁判,迭代出靠谱评估标准

EvalAssist is an open-source project that simplifies using large language models as ···

★ 103 2026-09-25
Static-to-Dynamic-LLMEval 开源

动态生成评测样本,防数据污染,测出模型真实力

The official GitHub repository of the paper "Recent advances in large language model···

★ 492 2026-08-12
svelte-bench 开源

专测大模型写 Svelte 5 代码行不行

An LLM benchmark for Svelte 5 based on the OpenAI methodology from OpenAIs paper "Ev···

★ 190 2026-09-15
ChineseHarm-bench 开源

测一测你的模型对中文有害内容有多能扛

ChineseHarm-Bench: A Chinese Harmful Content Detection Benchmark

★ 73 2026-08-09
ActPlane 开源

用 eBPF 管住 AI Agent 的数据流,防泄露防乱来

eBPF Information Flow Enforcement for AI Agent safety, security and effectiveness

★ 110 2026-10-10