Awesome-LLM-Red-Teaming

一站式收集 LLM 红队测试资源,快速上手安全攻防

Awesome-LLM-Red-Teaming 是一个精选资源列表,专注于大语言模型(LLM)的红队测试领域。它系统整理了相关的训练材料、研究论文、工具和最佳实践,帮助安全研究人员和开发者了解如何对 LLM 进行对抗性攻击与防御。该项目解决了 LLM 安全评估中缺乏系统性指南的问题,提供了从提示注入、越狱攻击到模型鲁棒性测试的完整知识框架。核心能力包括资源分类导航、工具索引和实战案例汇总,适合作为入门 LLM 安全领域的起点。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 133
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队user1342
所属国家
官网地址
定价模式free
价格说明开源项目,MIT许可证,完全免费,无付费版本。
访问状态
是否开源是
开源协议MIT
主要语言
技术栈/模型ai,artificial-intelligence,computer-security,large-language-models,llm,machine-learning,ml,penetration-testing,red-team-tools,red-teaming,reverse-engineering,vulnerabilit-research,vulnerability-assessment
GitHub 星标★ 133
30天Star增速
HF 下载量
上线时间2024-11-11 00:00:00
最近更新2026-09-14 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数2

使用教程

核心亮点

  • 资源分类清晰,涵盖训练、工具、论文等维度,便于快速定位
  • 紧跟前沿,收录最新的红队测试方法和对抗攻击案例
  • 社区驱动,持续更新,适合作为 LLM 安全领域的入门导航

不足之处

  • 项目处于早期,星标数少,内容覆盖可能不够全面
  • 文档/社区待观察

适用场景

  • 安全研究员入门 LLM 红队测试时查找资料
  • 开发者为 LLM 应用做安全评估时寻找工具
  • 教育者设计 AI 安全课程时参考案例

替代项目

Awesome-LLM-Security、LLM-Attack-and-Defense、Awesome-AI-Security

项目介绍

Awesome-LLM-Red-Teaming 是评测安全领域的开源项目,由 user1342 开发,2024 年首次发布。

它收录于评测安全分类,该分类目前共有 466 个项目,GitHub 星标数为 133。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-14。MIT许可证,完全免费,无付费版本。

它主要面向的使用场景是:安全研究员入门LLM红队测试时查找资料。同类可对比的替代方案包括 Awesome-LLM-Security、LLM-Attack-and-Defense、Awesome-AI-Security。

上一篇:Deco

下一篇:LLM-IR-Bias-Fairness-Survey

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12