Awesome-LLM-Red-Teaming
一站式收集 LLM 红队测试资源，快速上手安全攻防
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 148
核心亮点
- 资源分类清晰，涵盖训练、工具、论文等维度，便于快速定位
- 紧跟前沿，收录最新的红队测试方法和对抗攻击案例
- 社区驱动，持续更新，适合作为 LLM 安全领域的入门导航
不足之处
- 项目处于早期，星标数少，内容覆盖可能不够全面
- 文档/社区待观察
适用场景
- 安全研究员入门 LLM 红队测试时查找资料
- 开发者为 LLM 应用做安全评估时寻找工具
- 教育者设计 AI 安全课程时参考案例
替代项目
Awesome-LLM-Security、LLM-Attack-and-Defense、Awesome-AI-Security
上一篇：Deco
同类项目推荐
Video-Bench
开源
用AI自动给视频生成模型打分，快速比出谁更强
Video Generation Benchmark
InjectRange
开源
用固定语料对比严格/宽松防护，量化提示注入漏检
Guard harness for prompt-injection corpora - six breach classes, corpus pinning and ···
evalplus
开源
给 LLM 代码生成做严格体检，避免高分低能
Rigourous evaluation of LLM-synthesized code - NeurIPS 2023 & COLM 2024
botium-core
开源
像用 Selenium 测网页一样，自动化测试你的聊天机器人
The Selenium for Chatbots - Bots Testing Bots
ai-eval-platform
开源
一站式评测 AI 应用，让质量看得见
开源 AI 应用评测平台，支持 RAG、AI Agent、多轮对话、LLM-as-Judge、接口评测、评测报告···
Anti-Autoresearch
开源
一键给自动科研论文做取证，揪出编造与不自洽
Don't trust an autoresearch paper at face value. Reviewer-side integrity forensics (···
CS-Eval
开源
给网络安全大模型打分，快速找出安全能力短板
CS-Eval is a comprehensive evaluation suite for fundamental cybersecurity models or ···
leva
开源
用线上真实数据回放评测，让 Rails 的 LLM 改动不再靠拍脑袋
LLM Evaluation Framework for Rails apps to be used with production data.
PromptMe
开源
10 个动手挑战，亲手打穿 LLM 安全漏洞
PromptMe is an educational project that showcases security vulnerabilities in large ···