PromptInject 是评测安全领域的开源项目，由 agencyenterprise 开发，2022 年首次发布。
它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 525。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-21。MIT许可证，完全免费，无付费版本。
它主要面向的使用场景是：学术研究：评估新模型的对抗鲁棒性。同类可对比的替代方案包括 TextAttack、OpenAI Evals、Garak。
PromptInject
模块化组装提示词，量化评估LLM对抗攻击的鲁棒性。
PromptInject 是一个用于评估大型语言模型（LLM）对对抗性提示攻击鲁棒性的开源框架。它通过模块化方式组装提示词，帮助研究者和开发者定量分析模型在面对恶意或误导性输入时的表现。该项目源自 NeurIPS 2022 ML Safety Workshop 的最佳论文，提供了系统化的攻击模板和评估流程，支持多种攻击场景（如提示注入、越狱等），并输出量化指标，从而帮助用户了解模型的弱点并改进安全性。核心能力包括：模块化提示组装、攻击场景模拟、鲁棒性评分。
开源
free
开源模型
GitHub 星标
★ 525
维护状态
低维护
是否开源
是
定价模式
free
项目数据
分类开源模型
开发团队agencyenterprise
所属国家
定价模式free
价格说明开源项目，MIT许可证，完全免费，无付费版本。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型adversarial-attacks,agi,agi-alignment,ai-alignment,ai-safety,chain-of-thought,gpt-3,language-models,large-language-models,machine-learning,ml-safety,prompt-engineering
GitHub 星标★ 525
30天Star增速
HF 下载量
上线时间2022-10-25 00:00:00
最近更新2026-09-21 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数1
使用教程
核心亮点
- 基于获奖论文，方法论严谨，学术认可度高
- 模块化设计，方便扩展自定义攻击模板
- 提供量化分析结果，直观对比不同模型的鲁棒性
不足之处
- 项目较早期，文档和社区支持待观察
- 主要面向研究场景，生产环境集成需额外开发
适用场景
- 学术研究：评估新模型的对抗鲁棒性
- 安全测试：在部署前对LLM进行红队测试
- 模型选型：对比不同LLM的安全性能
替代项目
TextAttack、OpenAI Evals、Garak
项目介绍
上一篇：AwesomeLLM4APR
下一篇：inseq
同类项目推荐
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
Tracely-ai
开源
把生产事故变成回归测试，合并前自动拦截 AI 故障
Trace-native CI/CD for AI agents — production failures become regression tests that···