context-bombs

用现成的攻击字符串，测出你的 AI 系统抗不抗揍。

context-bombs 是一个专注于 AI 安全与评测的开源项目，核心是提供一系列精心构造的“上下文炸弹”字符串，用于测试和评估 AI 系统在面临恶意或异常输入时的鲁棒性。它解决的问题是，当前 AI 应用（尤其是基于大语言模型的智能体）容易受到提示注入、越狱等攻击，而开发者缺乏标准化的测试工具来验证自身系统的防御能力。项目提供了一组可复用的攻击载荷（payload），覆盖了提示注入、越狱、隐藏指令、角色反转等多种攻击模式，并支持作为 canarytokens（蜜标）集成到系统中，用于威胁检测和预警。其核心能力包括：生成/收集各类 context bomb 字符串、提供测试用例库、以及作为安全防护的辅助工具，帮助开发者在部署前发现漏洞，或在运行时感知异常。项目处于早期阶段，但方向明确，为 AI 安全测试提供了实用素材。