JailbreakHub
大模型安全测试提示词合集，红队评测随手取用
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-11-11 · 当前星标 ★ 277
核心亮点
- 按攻击类型与目标模型分类整理提示词，检索和复现成本低
- 持续跟进新手法并标注年份版本，语料更新节奏较快
- 纯文本资源形态，无需部署环境，可直接接入现有评测流程
不足之处
- 以语料收集为主，缺少自动化评测脚本与量化打分工具
- 样本质量与有效性依赖社区提交，缺乏统一验证标注
适用场景
- 安全团队对自研大模型做红队对抗测试
- 模型对齐研究中的防护策略回归验证
- 高校或企业AI安全课程的教学案例素材
替代项目
garak、PyRIT、llm-attacks
上一篇：skill
同类项目推荐
continuous-eval
开源
让 LLM 应用效果可量化，用数据驱动迭代优化
Data-Driven Evaluation for LLM-Powered Applications
absent-author
开源
用证据清单和 AI agent 揪出没人负责的 AI 论文
Research and writing can be automated. Authorship cannot. Evidence list + agent skil···
eva
开源
给肿瘤AI模型打分，让对比评测不再抓瞎
Evaluation framework for oncology foundation models (FMs)
frouros
开源
实时监控模型漂移，提前预警性能下降
Frouros: an open-source Python library for drift detection in machine learning syste···
SIMURG
开源
流式生成中实时拦截重复、漂移和乱码，不让坏 token 见用户
Zero-leak online detection of LLM decoding corruption and Free Web Search for your A···
MisguidedAttention
开源
用误导性提示词，测出大模型推理的短板
A collection of prompts to challenge the reasoning abilities of large language model···
Semia
开源
装 AI 技能前先扫一遍，把危险命令挡在门外
Semia, security audit for AI agent skills.
Doberman-Core
开源
给 AI 智能体装上安全锁，防提示注入，控工具权限
Your AI's guard dog. Doberman sits at runtime, gating every input, output and tool c···
VibeSearchBench
开源
专治搜索系统'听不懂人话'，用200个模糊任务测出真实力
The hardest search benchmark in the wild — vague, multi-turn, proactive. 200 long-h···