CipherChat

用密码绕过安全护栏,测出大模型隐藏漏洞

CipherChat是一个评估大语言模型安全对齐泛化能力的框架。它通过将有害指令编码为密码或加密形式,测试模型在非自然语言输入下的安全表现。核心能力包括:支持多种密码系统(如凯撒密码、摩斯密码等)、自动生成加密的越狱提示、评估模型对加密内容的响应安全性。解决的问题是:传统安全对齐仅针对自然语言,模型可能被加密或编码形式的恶意指令绕过。该框架帮助研究者量化这种风险,提升模型鲁棒性。

开源 free 对话助手
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 630
维护状态 低维护
是否开源
定价模式 free

项目数据

分类对话助手
开发团队RobustNLP
所属国家
官网地址
定价模式free
价格说明开源框架,MIT许可证,完全免费,无付费版本。
访问状态
是否开源
开源协议MIT
主要语言Python
技术栈/模型alignment,chatgpt,gpt-4-0613,jailbreak,large-language-models,llm,security
GitHub 星标★ 630
30天Star增速
HF 下载量
上线时间2023-08-10 00:00:00
最近更新2026-09-21 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数1

使用教程

核心亮点

  • 创新性地将密码学与越狱攻击结合,发现安全对齐的盲区
  • 提供完整的评估流程和代码,便于复现和扩展
  • 支持多种密码系统,覆盖不同编码场景

不足之处

  • 仅支持英文输入,对中文场景覆盖不足
  • 文档和社区活跃度待观察

适用场景

  • 大模型安全研究者评估对齐泛化能力
  • 红队测试发现模型潜在越狱风险
  • 安全团队设计更鲁棒的对齐策略

替代项目

llm-attacks、Gradient Cuff、SafeAlign

项目介绍

CipherChat 是评测安全领域的开源项目,由 RobustNLP 开发,2023 年首次发布。

它收录于评测安全分类,该分类目前共有 458 个项目,GitHub 星标数为 630。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-21。MIT许可证,完全免费,无付费版本。

它主要面向的使用场景是:大模型安全研究者评估对齐泛化能力。同类可对比的替代方案包括 llm-attacks、Gradient Cuff、SafeAlign。

上一篇:ErrorAnalysis_Prompt

下一篇:T2I-CompBench

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12
Tracely-ai 开源

把生产事故变成回归测试,合并前自动拦截 AI 故障

Trace-native CI/CD for AI agents — production failures become regression tests that···

★ 1362 2026-08-24