PromptMe

10 个动手挑战，亲手打穿 LLM 安全漏洞

PromptMe 是一个面向大语言模型安全的教育型开源项目，围绕 OWASP LLM Top 10 设计了 10 个动手挑战，帮助开发者和安全人员理解 LLM 及其 Web 集成中的真实漏洞。它解决的核心问题是：多数团队在接入 LLM 时缺乏对提示注入、不安全输出处理、敏感信息泄露等风险的直观认识，而传统安全测试工具并不覆盖这类新型攻击面。项目用 Python 实现，每个挑战都模拟了可被利用的场景，参与者需要发现并实际利用漏洞，从而掌握攻击手法与防御思路。它适合作为 LLM 红队训练的入门靶场，也可用于内部安全意识培训。相比纯文档式清单，PromptMe 强调动手复现，让抽象风险变成可验证的漏洞，降低学习门槛。

开源 free 评测安全

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 110

维护状态较活跃

是否开源是

定价模式 free

项目数据

分类评测安全

开发团队R3dShad0w7

所属国家

官网地址

GitHubhttps://github.com/R3dShad0w7/PromptMe

定价模式free

价格说明开源教育项目，免费使用

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型ai-security,ai-security-testing,llm,llm-red-teaming,llm-top10,owasp,owasp-top-10,prompt-injection,prompt-injection-defense,prompt-injection-llm-security,vulnerable-application,vulnerable-llm-application

GitHub 星标★ 110

30天Star增速

HF 下载量

上线时间2025-05-20 00:00:00

最近更新2026-09-10 00:00:00

维护状态较活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-09-15

浏览次数0

使用教程

核心亮点

基于 OWASP LLM Top 10 组织挑战，覆盖提示注入、不安全输出等主流风险，体系清晰
每个挑战都是可实际利用的场景，不是纯理论讲解，学习效果更扎实
Python 实现，代码轻量，便于本地部署和二次修改，适合教学与内部培训

不足之处

仅 10 个挑战，覆盖面有限，部分 OWASP 条目可能只做浅层演示
项目早期、社区规模小，挑战答案与更新维护依赖作者，长期活跃度待观察

适用场景

安全团队内部 LLM 红队入门训练
高校或培训机构讲授 AI 安全课程时的实验靶场
开发者在接入 LLM 前做安全风险自测与意识提升

替代项目

Garak、PyRIT、promptfoo

项目介绍

PromptMe 是一个评测安全领域的开源项目，官方简介：PromptMe is an educational project that showcases security vulnerabilities in large language models (LLMs) and their web integrations. It includes 10 hands-on challenges inspired by the OWASP LLM Top 10, demonstrating how these vulnerabilities can be discovered and exploited in real-world scenarios.。项目使用 Python 开发，在 GitHub 上获得 110 星标。

上一篇：svelte-bench

下一篇：dodoguard