jailbreak
本站收录 35 个带「jailbreak」标签的 AI 开源项目
L1B3RT4SL1B3RT4S 是一个以幽默和反讽方式呈现的提示词集合项目,旨在通过戏仿“越狱”提示词的形式,展示 AI 提示词工程的边界与可能性。它收集了大量看似“解放”A★ 23,341
ChatGPT_DANChatGPT_DAN 是一个专门收集和分享 ChatGPT 越狱提示词(Jailbreak prompts)的开源项目,核心是让 ChatGPT 突破官方限制★ 13,255
BlackFriday-GPTs-Prompts这是一个收集无需 ChatGPT Plus 订阅即可免费使用的 GPTs 提示词列表。它解决用户因付费墙而无法体验高级 GPTs 功能的问题,核心能力是整理并分★ 9,890
jailbreak_llmsjailbreak_llms 是一个专注于大语言模型越狱攻击的数据集项目,收录了来自 Reddit、Discord、网站及开源数据集的 15,140 条 Cha★ 3,893
gpt6-Astragpt6-Astra 是一个面向大模型安全评测与红队研究的开源工作台,主打「破甲越狱」提示词工程。它把针对 GPT、Claude、Grok、DeepSeek、G★ 2,242
AISafetyHot-HubAISafetyHot-Hub 是一个面向 AI 安全领域的每日精选与论文清单仓库,以 Markdown、BibTeX 和 JSON 三种格式同步维护,方便研究★ 2,127
Awesome-LM-SSPAwesome-LM-SSP 是一个聚焦大模型安全、隐私与可信度的精选阅读清单,收录了相关论文、工具、数据集和攻击防御方法。它系统梳理了提示注入、越狱攻击、隐私★ 2,106
Awesome-Jailbreak-on-LLMs这是一个聚焦大语言模型越狱攻击方法的精选资源库,系统整理了学术界和工业界关于LLM安全漏洞的最新研究。项目收集了论文、代码、数据集、评估工具和分析报告,覆盖从提★ 1,984
FuzzyAIFuzzyAI 是一个自动化的大语言模型模糊测试工具,旨在帮助开发者和安全研究人员发现并缓解其 LLM API 中的潜在越狱漏洞。它通过生成大量恶意或边界输入,★ 1,606
awesome-chatgpt-code-interpreter-experiments这是一个精选资源列表,汇集了 ChatGPT 结合 Code Interpreter(代码解释器)功能的创意实验和实用案例。它解决了用户不知道如何充分利用代码解★ 1,014
EasyJailbreakEasyJailbreak 是一个易用的 Python 框架,用于生成对抗性越狱提示词,以评估和提升大语言模型的安全性。它解决了安全研究人员在构造越狱攻击时缺乏★ 946
gpt_jailbreak_status这是一个追踪 OpenAI GPT 语言模型越狱状态的开源项目,旨在实时更新 GPT 系列模型(如 ChatGPT)被越狱(即绕过安全限制)的进展。项目以 HT★ 931
hanshuang-codexhanshuang-codex 是一个用 Python 编写的开源实验项目,主要针对 GPT 6.0 与 workbuddyV4.1flash 等大模型开展“破★ 917
SydneyQtSydneyQt 是一个跨平台的桌面客户端,用于接入被越狱的 New Bing AI Copilot(即 Sydney 版本),基于 Go 和 Wails 构建★ 869
safelabs-evalsafelabs-eval 是一个面向 AI 智能体的红队测试与评测框架,核心目标是把 OWASP ASI(Agentic Security Initiativ★ 830
CipherChatCipherChat是一个评估大语言模型安全对齐泛化能力的框架。它通过将有害指令编码为密码或加密形式,测试模型在非自然语言输入下的安全表现。核心能力包括:支持多★ 627
Ai-jailbreakAi-jailbreak 是一个面向大模型安全研究的越狱提示词与漏洞利用技术合集,主要收集针对本地模型和前沿闭源模型的绕过方法。项目覆盖 Qwen3.5、Gem★ 597
agent-opforagent-opfor 是一个开源的 AI 智能体对抗模拟工具,专注于对 AI 智能体和 MCP 服务器进行红队测试。它解决了 AI 应用在部署前缺乏系统性安全★ 585
hackagentHackAgent 是一个开源的 AI 智能体安全检测工具包,专门用于发现和验证 AI Agent 的漏洞。它主要解决大语言模型驱动的智能体在真实应用场景中面临★ 539
ai-jailbreaks这是一个面向 AI 安全研究与红队测试的开源提示词集合,收录约 35 条可直接粘贴使用的越狱提示词,覆盖 25 个以上前沿闭源模型与开放权重模型。项目把提示词按★ 434
JailbreakHubJailbreakHub 是一个面向大语言模型安全评测的开源研究资源库,主要收集和整理用于测试模型安全过滤机制的对抗性提示词与攻击样本。项目解决的核心问题是:安★ 373
ZORG-Jailbreak-Prompt-TextZORG-Jailbreak-Prompt-Text 是一个专注于 AI 对话越狱提示词的开源项目,旨在帮助用户绕过 ChatGPT、Gemini、DeepSe★ 317
OpenARTOpenART 是一个面向自主 AI 智能体(Agent)的开源安全评测框架,专注在动态、长周期、有状态的环境中检验智能体的安全性与鲁棒性。随着 Agent 能★ 275
HacxGPT-Jailbreak-promptsHacxGPT-Jailbreak-prompts 是一个专门收集和分享 AI 模型越狱提示词(Jailbreak prompts)的开源项目,旨在解锁 Cha★ 228
llamatorllamator 是一个用于测试聊天机器人和生成式 AI 系统的红队(Red Teaming)Python 框架。它主要解决 LLM 应用在安全性和可靠性方面的★ 225
ChatGPT-Jailbreak-ProChatGPT-Jailbreak-Pro 是一个开源的 ChatGPT 越狱工具,旨在通过精心设计的提示词(prompts)绕过 ChatGPT 的内容限制,★ 193
Jailbreak-FoundryJailbreak-Foundry 是一个将越狱研究论文转化为可运行攻击与基准测试的系统,旨在解决 AI 安全研究中论文复现难、基准不统一的问题。它能够从论文中★ 175
Awesome-LLMSecOpsAwesome-LLMSecOps 是一个专注于大语言模型(LLM)与智能体(Agent)安全运营的精选资源列表。它系统性地整理了 LLM 安全领域的威胁建模、★ 170
Awesome-Embodied-AI-Safety这是一个关于具身AI安全领域的综述性开源项目,汇集了500多篇相关论文,系统梳理了具身AI在感知、认知、规划、交互和智能体系统等层面面临的风险、攻击与防御方法。★ 164
autoguardrailsAutoGuardrails 是一个面向 LLM 护栏的 alignment-research 脚手架,采用 autoresearch 风格,在单一的 poli★ 129
chatbot-experiments这是一个存放 ChatGPT/Bing Chat 越狱提示词、实验性 Prompt 及实用工具的仓库,旨在收集和分享绕过 AI 聊天机器人安全限制的尝试与结果。★ 127
Rules.txtRules.txt 是一个针对大型语言模型(LLM)的对齐与越狱(jailbreak)研究项目,提供一套指令集,用于审计模型内部推理过程并揭示潜在偏见。它通过精★ 110
Spectral-DeTuningSpectral-DeTuning 是 ICML 2024 论文的官方 PyTorch 实现,旨在恢复生成模型在微调前的原始权重。它解决了当模型(如 Stabl★ 86
circle-guard-benchcircle-guard-bench 是首个专门评估大语言模型(LLM)防护系统(包括 guardrails 和 safeguards)能力的 AI 基准测试框★ 81
awesome-ai-agents-security这是一个关于AI智能体安全的精选资源列表,旨在绘制AI代理安全生态系统的活地图。它系统整理了该领域的关键主题,包括自主代理、生成式AI、网络安全、护栏、越狱攻击★ 80