CipherChat

用密码绕过安全护栏，测出大模型隐藏漏洞

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署对话助手 🍴 复刻 64 👀 关注 9

GitHub ↗

GitHub 星标 ★ 628

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源框架，MIT许可证，完全免费，无付费版本。

项目预览

项目数据

分类对话助手

开发团队RobustNLP

GitHubhttps://github.com/RobustNLP/CipherChat

定价模式🏷️完全免费

价格说明开源框架，MIT许可证，完全免费，无付费版本。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议MIT

主要语言Python

技术栈/模型alignment,chatgpt,gpt-4-0613,jailbreak,large-language-models,llm,security

GitHub 星标★ 628

上线时间2023-08-10 00:00:00

代码更新2025-10-09

仓库体积16.6 MB

本站数据更新2026-11-07

维护状态低维护

收录时间2026-08-09

浏览次数2

项目介绍

CipherChat是一个评估大语言模型安全对齐泛化能力的框架。它通过将有害指令编码为密码或加密形式，测试模型在非自然语言输入下的安全表现。核心能力包括：支持多种密码系统（如凯撒密码、摩斯密码等）、自动生成加密的越狱提示、评估模型对加密内容的响应安全性。解决的问题是：传统安全对齐仅针对自然语言，模型可能被加密或编码形式的恶意指令绕过。该框架帮助研究者量化这种风险，提升模型鲁棒性。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 628

技术标签

alignment chatgpt jailbreak large-language-models llm

使用教程

难度：高级约 60 分钟部署方式：本地安装 5 步

环境要求

Python 3.10 上下
商用模型 API key
了解安全对齐概念

安装与启动步骤

1克隆并建环境

研究代码，依赖版本不算新，建议单独虚拟环境。
```
git clone https://github.com/RobustNLP/CipherChat && cd CipherChat
```
2准备模型凭据

它默认调商用模型接口做评测，需要可用的 key。
3跑官方示例

按示例指定模型、数据、编码方式与指令类别，先复现一组结果。
```
python3 main.py --model_name gpt-4-0613 --encode_method caesar
```
4换编码方式对比

把凯撒换成其他密码再跑一遍，看拒绝率的差异。
5读现成结果

仓库附带查询-回答对，可直接用 torch.load 读取，省下重跑成本。