awesome-llm-security

一站式找到 LLM 安全工具和资料,防坑避雷

awesome-llm-security 是一个精选列表,汇集了关于大语言模型(LLM)安全领域的优秀工具、文档和项目。它旨在解决 LLM 应用日益增长的安全问题,如提示注入、数据泄露、模型滥用等。该项目通过系统化整理 GitHub 上分散的安全资源,为开发者、安全研究员和 AI 从业者提供一站式导航,涵盖攻击防御、红队测试、合规评估、隐私保护等多个维度。核心能力包括:分类梳理 LLM 安全工具链、收录权威论文与指南、提供实践案例和最佳实践。作为社区驱动的资源索引,它帮助用户快速定位所需的安全方案,降低学习成本,促进 LLM 安全生态的发展。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 1703
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队corca-ai
所属国家
官网地址
定价模式free
价格说明开源项目,完全免费,无付费版本。
访问状态
是否开源是
开源协议
主要语言
技术栈/模型awesome,awesome-list,llm,security
GitHub 星标★ 1703
30天Star增速
HF 下载量
上线时间2023-07-05 00:00:00
最近更新2026-09-23 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数2

使用教程

难度:入门 约 10 分钟 部署方式:本地安装 6 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 可访问 GitHub 的网络环境
  • 已安装 Git(用于克隆仓库)
  • 可阅读 Markdown 的编辑器或浏览器

安装与启动步骤

  1. 1克隆仓库

    把资源列表下载到本地。仓库为纯文档索引,体积很小,不需要构建或安装依赖。

    git clone https://github.com/corca-ai/awesome-llm-security.git
  2. 2进入目录

    切换到仓库根目录,后续所有阅读操作都在此目录内完成。

    cd awesome-llm-security
  3. 3阅读总目录

    打开 README.md,从 Table of Contents 查看 Papers、Benchmark、Tools、Articles 等分类导航。

    cat README.md
  4. 4定位分类资源

    按需求跳转对应小节:白盒/黑盒/后门攻击、指纹识别、防御、平台安全、综述等论文分类。

  5. 5查看论文摘要

    README 通过 Moonlight 分享 PDF,点击条目里的 paper 链接可看到摘要和原文,repo 链接指向对应代码仓库。

  6. 6阅读贡献指南

    如需提交新资源,先阅读仓库中的 CONTRIBUTING.md,按其中的规范提交 PR。

    cat CONTRIBUTING.md

如何确认成功

克隆成功且目录中存在 README.md,能在其中正常打开 Papers、Benchmark、Tools 等分类链接即视为可用。

常见问题

Q:这个项目需要安装依赖或启动服务吗?

A:不需要。它是社区维护的资源索引,克隆后直接阅读 Markdown 文件即可,本身没有可执行代码。

Q:为什么只有 git clone 之类的命令?

A:README 未提供安装或运行说明。其中收录的工具各自独立,需按对应工具的官方文档分别部署。

Q:论文 PDF 在哪里获取?

A:README 通过 Moonlight 链接分享 PDF,点击条目中的 paper 链接即可查看摘要与原文,repo 链接指向论文代码。

Q:如何向列表贡献新资源?

A:先阅读 CONTRIBUTING.md 中的贡献规范,再按格式提交 Pull Request。

注意事项

  • 仓库为纯文档索引,无需构建、部署或运行任何服务。
  • 收录的工具与论文均指向第三方,使用前请自行确认许可证与安全性。
  • 部分链接指向 GitHub 及外部站点,需要可正常访问这些站点的网络环境。
  • 列表更新频繁,建议定期执行 git pull 获取最新资源。

核心亮点

  • 覆盖全面,从提示注入到模型红队测试的工具都有收录
  • 持续更新,紧跟 LLM 安全领域最新动态
  • 分类清晰,便于按需查找,节省筛选时间

不足之处

  • 部分条目缺乏深度说明,需跳转外部链接
  • 文档/社区待观察

适用场景

  • 安全研究员调研 LLM 攻击与防御方案
  • 开发者为 LLM 应用集成安全检测工具
  • 企业评估 LLM 合规与隐私风险

替代项目

OWASP Top 10 for LLM Applications、Awesome LLM Security (其他同名列表)、LLM Security GitHub 资源汇总

项目介绍

awesome-llm-security 是评测安全领域的开源项目,由 corca-ai 开发,2023 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(1,703)位列前 30%,在评测安全分类的 458 个项目里位列前 14%。

近 42 天,它的 GitHub 星标从 1,679 增加到 1,703,净增 24。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-23。完全免费,无付费版本。

它主要面向的使用场景是:安全研究员调研LLM攻击与防御方案。同类可对比的替代方案包括 OWASP Top 10 for LLM Applications、Awesome LLM Security (其他同名列表)、LLM Security Git…。

上一篇:tau2-bench

下一篇:safe-rlhf

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12