Awesome-Jailbreak-on-LLMs

一站式掌握LLM越狱攻击最新研究,快速上手安全测试

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 148 👀 关注 29
GitHub ↗
GitHub 星标 ★ 1731
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,无付费版本。

项目预览

Awesome-Jailbreak-on-LLMs 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队yueliu1999
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
技术栈/模型ai,jailbreak,llm,llms,privacy,safety,security,vlm,vlms
GitHub 星标★ 1731
上线时间2024-06-27 00:00:00
代码更新2026-11-08
仓库体积297 KB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数7

项目介绍

这是一个聚焦大语言模型越狱攻击方法的精选资源库,系统整理了学术界和工业界关于LLM安全漏洞的最新研究。项目收集了论文、代码、数据集、评估工具和分析报告,覆盖从提示注入到对抗性攻击等多种越狱技术。它解决了安全研究人员难以系统获取和比较各类越狱方法的问题,提供了结构化的分类和索引,方便快速了解该领域的研究进展。核心能力包括按攻击类型整理的方法库、配套的代码实现链接、用于复现实验的基准数据集,以及不同方法的效果评估对比。对于从事AI安全、红队测试或模型对齐研究的人员,这是一个重要的参考入口。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1731

技术标签

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 5 分钟 部署方式:本地安装 3 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 可访问 GitHub 的网络环境
  • 已安装 git(用于克隆仓库)
  • 支持 Markdown 渲染的编辑器或浏览器
  • 具备阅读英文学术论文标题与摘要的基本能力

安装与启动步骤

  1. 1克隆仓库到本地

    把收藏库完整下载到本地,之后可离线浏览 README 中的论文、代码和数据集索引。

    git clone https://github.com/yueliu1999/Awesome-Jailbreak-on-LLMs.git
  2. 2进入目录查看索引

    打开 README.md,按攻击类型浏览论文、代码、数据集、评测与分析条目,点击链接跳转原文。

    cd Awesome-Jailbreak-on-LLMs
  3. 3按需引用与反馈

    若对研究有帮助,按 README 的 Reference 格式引用论文,并给仓库点星;问题可邮件联系作者。

如何确认成功

本地能打开 Awesome-Jailbreak-on-LLMs/README.md,看到论文、代码、数据集条目列表即成功。

常见问题

Q:这个项目能 pip install 或 docker run 吗?

A:不能。README 中只说明它是论文、代码、数据集、评测和分析的集合,本身没有提供任何安装或运行命令,无需安装依赖。

Q:仓库里包含可直接运行的越狱代码吗?

A:README 说明它收集的是 papers、codes、datasets、evaluations、analyses 的链接,代码需要点击条目跳转到各自项目的页面获取。

Q:我想补充新的越狱方法怎么办?

A:README 明确欢迎关于 jailbreak 的 PR 和 issue,提交后会被加入 contributor 名单。

Q:遇到问题如何联系作者?

A:README 给出联系邮箱 yliu@u.nus.edu,可直接发邮件咨询。

注意事项

  • 该仓库是资源索引/论文列表,不含可执行的越狱工具,不要期待安装后能直接运行攻击。
  • 若在研究或工作中使用,建议按 README 的 Reference 部分引用相关论文并给仓库点星。
  • 越狱与红队相关内容请在合法合规的授权测试或学术研究范围内使用。

核心亮点

  • 精选并分类了当前最前沿的越狱方法,节省文献检索时间
  • 提供论文、代码、数据集和评估的完整链路,便于复现实验
  • 持续更新,紧跟LLM安全研究动态,社区活跃度高

不足之处

  • 资源列表形式,缺乏深度技术解读和实战指导
  • 部分链接可能失效或需要额外权限访问,文档/社区待观察

适用场景

  • AI安全研究人员调研越狱攻击技术趋势
  • 红队工程师对自家LLM应用进行安全测试
  • 模型对齐开发者了解攻击手段以改进防御

替代项目

Awesome-LLM-Safety、LLM-Attack-Dataset、JailbreakBench

上一篇:LLM-eval-survey

下一篇:FuzzyAI

同类项目推荐

memorybench 开源

一套基准跑遍对话记忆与 RAG,选型不再靠拍脑袋

Unified benchmark for evaluating conversational memory and RAG across multiple datas···

★ 334 2026-09-21
FeatureBench 开源

用真实功能开发任务,量出编码智能体的真实水平

[ICLR 2026] Official Implementation of "FeatureBench: Benchmarking Agentic Coding fo···

★ 101 2026-11-05
OpenAPPA 开源

给 AI Agent 加确定性护栏,安全不打断任务

Deterministic guardrails that don't break agents

★ 1622 2026-10-09
M3Exam 开源

全球大模型谁更聪明?多语言考卷测出真实力

Data and code for paper "M3Exam: A Multilingual, Multimodal, Multilevel Benchmark fo···

★ 105 2026-08-09
awesome-security-for-ai 开源

一站式导航AI安全工具,快速选型不踩坑

Awesome products for securing AI systems includes open source and commercial options···

★ 91 2026-08-09
awesome-ai-testing 开源

一页清单看懂 AI 测试工具,选型不再东拼西凑

A curated list of AI-powered testing tools, frameworks, and resources for QA enginee···

★ 178 2026-09-25
Video-Bench 开源

用AI自动给视频生成模型打分,快速比出谁更强

Video Generation Benchmark

★ 82 2026-08-09
CipherChat 开源

用密码绕过安全护栏,测出大模型隐藏漏洞

A framework to evaluate the generalization capability of safety alignment for LLMs

★ 628 2026-08-09
AlgoTune 开源

写更快的代码,用154道题检验你的算法优化能力

AlgoTune is a NeurIPS 2025 benchmark made up of 154 math, physics, and computer scie···

★ 119 2026-08-09