PromptMe

10 个动手挑战，亲手打穿 LLM 安全漏洞

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 评测安全 🍴 复刻 38 👀 关注 2
GitHub ↗
GitHub 星标 ★ 112
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源教育项目，免费使用

项目预览

PromptMe 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类评测安全
开发团队R3dShad0w7
GitHubhttps://github.com/R3dShad0w7/PromptMe
定价模式🏷️完全免费
价格说明开源教育项目，免费使用
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型ai-security,ai-security-testing,llm,llm-red-teaming,llm-top10,owasp,owasp-top-10,prompt-injection,prompt-injection-defense,prompt-injection-llm-security,vulnerable-application,vulnerable-llm-application
GitHub 星标★ 112
上线时间2025-05-20 00:00:00
代码更新2026-09-10
仓库体积71.1 MB
本站数据更新2026-11-03
维护状态维护中
收录时间2026-09-15
浏览次数1

项目介绍

PromptMe 是一个面向大语言模型安全的教育型开源项目，围绕 OWASP LLM Top 10 设计了 10 个动手挑战，帮助开发者和安全人员理解 LLM 及其 Web 集成中的真实漏洞。它解决的核心问题是：多数团队在接入 LLM 时缺乏对提示注入、不安全输出处理、敏感信息泄露等风险的直观认识，而传统安全测试工具并不覆盖这类新型攻击面。项目用 Python 实现，每个挑战都模拟了可被利用的场景，参与者需要发现并实际利用漏洞，从而掌握攻击手法与防御思路。它适合作为 LLM 红队训练的入门靶场，也可用于内部安全意识培训。相比纯文档式清单，PromptMe 强调动手复现，让抽象风险变成可验证的漏洞，降低学习门槛。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-09-15 · 当前星标 ★ 112

核心亮点

  • 基于 OWASP LLM Top 10 组织挑战，覆盖提示注入、不安全输出等主流风险，体系清晰
  • 每个挑战都是可实际利用的场景，不是纯理论讲解，学习效果更扎实
  • Python 实现，代码轻量，便于本地部署和二次修改，适合教学与内部培训

不足之处

  • 仅 10 个挑战，覆盖面有限，部分 OWASP 条目可能只做浅层演示
  • 项目早期、社区规模小，挑战答案与更新维护依赖作者，长期活跃度待观察

适用场景

  • 安全团队内部 LLM 红队入门训练
  • 高校或培训机构讲授 AI 安全课程时的实验靶场
  • 开发者在接入 LLM 前做安全风险自测与意识提升

替代项目

Garak、PyRIT、promptfoo

上一篇：svelte-bench

下一篇：dodoguard

同类项目推荐

vistorybench 开源

给AI故事配图能力打分，让模型叙事更连贯

[CVPR 2026] ViStoryBench: AI Story Visualization Benchmark

★ 173 2026-08-09
AssetOpsBench 开源

工业设备运维智能体，一套基准直接评测落地

AssetOpsBench - Industry 4.0: A unified benchmark and framework for building, orches···

★ 2409 2026-10-13
ARTEX 开源

让 AI 智能体自主完成渗透测试攻击链

AI 自主渗透测试系统

★ 4409 2026-10-09
Gym 开源

把模型丢进环境里跑，边评测边改进智能体

Evaluate and improve models and agents using environments

★ 1314 2026-09-16
CUREBench 开源

给AI看病决策打分，推动医疗AI更靠谱

CUREBench @ NeurIPS 2025: Benchmarking AI reasoning for therapeutic decision-making ···

★ 136 2026-08-09
LLMEvaluation 开源

选对 LLM 评测方法，少走弯路

A comprehensive guide to LLM evaluation methods designed to assist in identifying th···

★ 207 2026-09-15
Loong 开源

测出长文本大模型真实力，必须跨文档推理才能答对

[EMNLP 2024 (Oral)] Leave No Document Behind: Benchmarking Long-Context LLMs with Ex···

★ 154 2026-08-09
convex-evals 开源

给 Convex 后端做功能与安全体检，部署前拦住越权和逻辑错。

★ 129 2026-09-14
empirical 开源

用数据说话，系统化测试评估你的 LLM 应用

Test and evaluate LLMs and model configurations, across all the scenarios that matte···

★ 166 2026-08-09