一站式掌握LLM越狱攻击最新研究，快速上手安全测试
这是一个聚焦大语言模型越狱攻击方法的精选资源库，系统整理了学术界和工业界关于LLM安全漏洞的最新研究。项目收集了论文、代码、数据集、评估工具和分析报告，覆盖从提示注入到对抗性攻击等多种越狱技术。它解决了安全研究人员难以系统获取和比较各类越狱方法的问题，提供了结构化的分类和索引，方便快速了解该领域的研究进展。核心能力包括按攻击类型整理的方法库、配套的代码实现链接、用于复现实验的基准数据集，以及不同方法的效果评估对比。对于从事AI安全、红队测试或模型对齐研究的人员，这是一个重要的参考入口。
⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。
1克隆仓库到本地
把收藏库完整下载到本地，之后可离线浏览 README 中的论文、代码和数据集索引。
git clone https://github.com/yueliu1999/Awesome-Jailbreak-on-LLMs.git2进入目录查看索引
打开 README.md，按攻击类型浏览论文、代码、数据集、评测与分析条目，点击链接跳转原文。
cd Awesome-Jailbreak-on-LLMs3按需引用与反馈
若对研究有帮助，按 README 的 Reference 格式引用论文，并给仓库点星；问题可邮件联系作者。
本地能打开 Awesome-Jailbreak-on-LLMs/README.md，看到论文、代码、数据集条目列表即成功。
Q：这个项目能 pip install 或 docker run 吗？
A：不能。README 中只说明它是论文、代码、数据集、评测和分析的集合，本身没有提供任何安装或运行命令，无需安装依赖。
Q：仓库里包含可直接运行的越狱代码吗？
A：README 说明它收集的是 papers、codes、datasets、evaluations、analyses 的链接，代码需要点击条目跳转到各自项目的页面获取。
Q：我想补充新的越狱方法怎么办？
A：README 明确欢迎关于 jailbreak 的 PR 和 issue，提交后会被加入 contributor 名单。
Q：遇到问题如何联系作者？
A：README 给出联系邮箱 yliu@u.nus.edu，可直接发邮件咨询。
Awesome-LLM-Safety、LLM-Attack-Dataset、JailbreakBench
Awesome-Jailbreak-on-LLMs 是评测安全领域的开源项目，由 yueliu1999 开发，2024 年首次发布。
在全站 13,014 个收录项目中，它的 GitHub 星标数（1,648）位列前 30%，在评测安全分类的 458 个项目里位列前 15%。
近 42 天，它的 GitHub 星标从 1,579 增加到 1,648，净增 69。
项目目前处于活跃维护状态，最近一次代码更新于 2026-09-23。MIT许可证，完全免费，无付费版本。
它主要面向的使用场景是：AI安全研究人员调研越狱攻击技术趋势。同类可对比的替代方案包括 Awesome-LLM-Safety、LLM-Attack-Dataset、JailbreakBench。
上一篇：LLM-eval-survey
下一篇：FuzzyAI
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.