
Awesome-Jailbreak-on-LLMs
一站式掌握LLM越狱攻击最新研究,快速上手安全测试
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1731
使用教程
⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。
⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。
环境要求
- 可访问 GitHub 的网络环境
- 已安装 git(用于克隆仓库)
- 支持 Markdown 渲染的编辑器或浏览器
- 具备阅读英文学术论文标题与摘要的基本能力
安装与启动步骤
-
1克隆仓库到本地
把收藏库完整下载到本地,之后可离线浏览 README 中的论文、代码和数据集索引。
git clone https://github.com/yueliu1999/Awesome-Jailbreak-on-LLMs.git -
2进入目录查看索引
打开 README.md,按攻击类型浏览论文、代码、数据集、评测与分析条目,点击链接跳转原文。
cd Awesome-Jailbreak-on-LLMs -
3按需引用与反馈
若对研究有帮助,按 README 的 Reference 格式引用论文,并给仓库点星;问题可邮件联系作者。
如何确认成功
本地能打开 Awesome-Jailbreak-on-LLMs/README.md,看到论文、代码、数据集条目列表即成功。
常见问题
Q:这个项目能 pip install 或 docker run 吗?
A:不能。README 中只说明它是论文、代码、数据集、评测和分析的集合,本身没有提供任何安装或运行命令,无需安装依赖。
Q:仓库里包含可直接运行的越狱代码吗?
A:README 说明它收集的是 papers、codes、datasets、evaluations、analyses 的链接,代码需要点击条目跳转到各自项目的页面获取。
Q:我想补充新的越狱方法怎么办?
A:README 明确欢迎关于 jailbreak 的 PR 和 issue,提交后会被加入 contributor 名单。
Q:遇到问题如何联系作者?
A:README 给出联系邮箱 yliu@u.nus.edu,可直接发邮件咨询。
注意事项
- 该仓库是资源索引/论文列表,不含可执行的越狱工具,不要期待安装后能直接运行攻击。
- 若在研究或工作中使用,建议按 README 的 Reference 部分引用相关论文并给仓库点星。
- 越狱与红队相关内容请在合法合规的授权测试或学术研究范围内使用。
核心亮点
- 精选并分类了当前最前沿的越狱方法,节省文献检索时间
- 提供论文、代码、数据集和评估的完整链路,便于复现实验
- 持续更新,紧跟LLM安全研究动态,社区活跃度高
不足之处
- 资源列表形式,缺乏深度技术解读和实战指导
- 部分链接可能失效或需要额外权限访问,文档/社区待观察
适用场景
- AI安全研究人员调研越狱攻击技术趋势
- 红队工程师对自家LLM应用进行安全测试
- 模型对齐开发者了解攻击手段以改进防御
替代项目
Awesome-LLM-Safety、LLM-Attack-Dataset、JailbreakBench
上一篇:LLM-eval-survey
下一篇:FuzzyAI
同类项目推荐
memorybench
开源
一套基准跑遍对话记忆与 RAG,选型不再靠拍脑袋
Unified benchmark for evaluating conversational memory and RAG across multiple datas···
FeatureBench
开源
用真实功能开发任务,量出编码智能体的真实水平
[ICLR 2026] Official Implementation of "FeatureBench: Benchmarking Agentic Coding fo···
OpenAPPA
开源
给 AI Agent 加确定性护栏,安全不打断任务
Deterministic guardrails that don't break agents
M3Exam
开源
全球大模型谁更聪明?多语言考卷测出真实力
Data and code for paper "M3Exam: A Multilingual, Multimodal, Multilevel Benchmark fo···
awesome-security-for-ai
开源
一站式导航AI安全工具,快速选型不踩坑
Awesome products for securing AI systems includes open source and commercial options···
awesome-ai-testing
开源
一页清单看懂 AI 测试工具,选型不再东拼西凑
A curated list of AI-powered testing tools, frameworks, and resources for QA enginee···
Video-Bench
开源
用AI自动给视频生成模型打分,快速比出谁更强
Video Generation Benchmark
CipherChat
开源
用密码绕过安全护栏,测出大模型隐藏漏洞
A framework to evaluate the generalization capability of safety alignment for LLMs
AlgoTune
开源
写更快的代码,用154道题检验你的算法优化能力
AlgoTune is a NeurIPS 2025 benchmark made up of 154 math, physics, and computer scie···