awesome-llm-security

一站式找到 LLM 安全工具和资料,防坑避雷

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 436 🐛 待处理 290 👀 关注 31
GitHub ↗
GitHub 星标 ★ 1720
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,完全免费,无付费版本。

项目预览

awesome-llm-security 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队corca-ai
定价模式🏷️完全免费
价格说明开源项目,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
技术栈/模型awesome,awesome-list,llm,security
GitHub 星标★ 1720
上线时间2023-07-05 00:00:00
代码更新2025-08-20
仓库体积89 KB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数3

项目介绍

awesome-llm-security 是一个精选列表,汇集了关于大语言模型(LLM)安全领域的优秀工具、文档和项目。它旨在解决 LLM 应用日益增长的安全问题,如提示注入、数据泄露、模型滥用等。该项目通过系统化整理 GitHub 上分散的安全资源,为开发者、安全研究员和 AI 从业者提供一站式导航,涵盖攻击防御、红队测试、合规评估、隐私保护等多个维度。核心能力包括:分类梳理 LLM 安全工具链、收录权威论文与指南、提供实践案例和最佳实践。作为社区驱动的资源索引,它帮助用户快速定位所需的安全方案,降低学习成本,促进 LLM 安全生态的发展。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1720

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 10 分钟 部署方式:本地安装 6 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 可访问 GitHub 的网络环境
  • 已安装 Git(用于克隆仓库)
  • 可阅读 Markdown 的编辑器或浏览器

安装与启动步骤

  1. 1克隆仓库

    把资源列表下载到本地。仓库为纯文档索引,体积很小,不需要构建或安装依赖。

    git clone https://github.com/corca-ai/awesome-llm-security.git
  2. 2进入目录

    切换到仓库根目录,后续所有阅读操作都在此目录内完成。

    cd awesome-llm-security
  3. 3阅读总目录

    打开 README.md,从 Table of Contents 查看 Papers、Benchmark、Tools、Articles 等分类导航。

    cat README.md
  4. 4定位分类资源

    按需求跳转对应小节:白盒/黑盒/后门攻击、指纹识别、防御、平台安全、综述等论文分类。

  5. 5查看论文摘要

    README 通过 Moonlight 分享 PDF,点击条目里的 paper 链接可看到摘要和原文,repo 链接指向对应代码仓库。

  6. 6阅读贡献指南

    如需提交新资源,先阅读仓库中的 CONTRIBUTING.md,按其中的规范提交 PR。

    cat CONTRIBUTING.md

如何确认成功

克隆成功且目录中存在 README.md,能在其中正常打开 Papers、Benchmark、Tools 等分类链接即视为可用。

常见问题

Q:这个项目需要安装依赖或启动服务吗?

A:不需要。它是社区维护的资源索引,克隆后直接阅读 Markdown 文件即可,本身没有可执行代码。

Q:为什么只有 git clone 之类的命令?

A:README 未提供安装或运行说明。其中收录的工具各自独立,需按对应工具的官方文档分别部署。

Q:论文 PDF 在哪里获取?

A:README 通过 Moonlight 链接分享 PDF,点击条目中的 paper 链接即可查看摘要与原文,repo 链接指向论文代码。

Q:如何向列表贡献新资源?

A:先阅读 CONTRIBUTING.md 中的贡献规范,再按格式提交 Pull Request。

注意事项

  • 仓库为纯文档索引,无需构建、部署或运行任何服务。
  • 收录的工具与论文均指向第三方,使用前请自行确认许可证与安全性。
  • 部分链接指向 GitHub 及外部站点,需要可正常访问这些站点的网络环境。
  • 列表更新频繁,建议定期执行 git pull 获取最新资源。

核心亮点

  • 覆盖全面,从提示注入到模型红队测试的工具都有收录
  • 持续更新,紧跟 LLM 安全领域最新动态
  • 分类清晰,便于按需查找,节省筛选时间

不足之处

  • 部分条目缺乏深度说明,需跳转外部链接
  • 文档/社区待观察

适用场景

  • 安全研究员调研 LLM 攻击与防御方案
  • 开发者为 LLM 应用集成安全检测工具
  • 企业评估 LLM 合规与隐私风险

替代项目

OWASP Top 10 for LLM Applications、Awesome LLM Security (其他同名列表)、LLM Security GitHub 资源汇总

上一篇:tau2-bench

下一篇:safe-rlhf

同类项目推荐

FeatureBench 开源

用真实功能开发任务,量出编码智能体的真实水平

[ICLR 2026] Official Implementation of "FeatureBench: Benchmarking Agentic Coding fo···

★ 101 2026-11-05
benchflow 开源

一键搭建 RL 训练与评测流水线,省去重复造轮子

Research infra for creating RL environments, post-training, and evals.

★ 363 2026-08-10
Gym 开源

把模型丢进环境里跑,边评测边改进智能体

Evaluate and improve models and agents using environments

★ 1324 2026-09-16
agent-opfor 开源

给AI智能体做安全体检,模拟攻击找漏洞

Open-source adversary emulation for AI agents and MCP servers.

★ 584 2026-08-09
ChineseHarm-bench 开源

测一测你的模型对中文有害内容有多能扛

ChineseHarm-Bench: A Chinese Harmful Content Detection Benchmark

★ 73 2026-08-09
SelfAware 开源

测出模型不知道自己不知道什么,减少胡编乱造

Do Large Language Models Know What They Don’t Know?

★ 107 2026-08-09
SkillEvaluator 开源

给 Agent 技能做体检:查冲突、测安全、验效果

Multi-tier framework for evaluating AI agent skills with quality gates, semantic ove···

★ 658 2026-10-13
UltraText_Bench 开源

给文生图模型做中英文写字能力体检

[Preprint] UltraText Bench: A Comprehensive Bilingual Benchmark for Evaluating Visua···

★ 114 2026-10-23
aiewf-eval 开源

专测大模型长上下文下的安全表现

A long-context eval

★ 169 2026-09-14