
awesome-llm-security
一站式找到 LLM 安全工具和资料,防坑避雷
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1720
技术标签
使用教程
⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。
⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。
环境要求
- 可访问 GitHub 的网络环境
- 已安装 Git(用于克隆仓库)
- 可阅读 Markdown 的编辑器或浏览器
安装与启动步骤
-
1克隆仓库
把资源列表下载到本地。仓库为纯文档索引,体积很小,不需要构建或安装依赖。
git clone https://github.com/corca-ai/awesome-llm-security.git -
2进入目录
切换到仓库根目录,后续所有阅读操作都在此目录内完成。
cd awesome-llm-security -
3阅读总目录
打开 README.md,从 Table of Contents 查看 Papers、Benchmark、Tools、Articles 等分类导航。
cat README.md -
4定位分类资源
按需求跳转对应小节:白盒/黑盒/后门攻击、指纹识别、防御、平台安全、综述等论文分类。
-
5查看论文摘要
README 通过 Moonlight 分享 PDF,点击条目里的 paper 链接可看到摘要和原文,repo 链接指向对应代码仓库。
-
6阅读贡献指南
如需提交新资源,先阅读仓库中的 CONTRIBUTING.md,按其中的规范提交 PR。
cat CONTRIBUTING.md
如何确认成功
克隆成功且目录中存在 README.md,能在其中正常打开 Papers、Benchmark、Tools 等分类链接即视为可用。
常见问题
Q:这个项目需要安装依赖或启动服务吗?
A:不需要。它是社区维护的资源索引,克隆后直接阅读 Markdown 文件即可,本身没有可执行代码。
Q:为什么只有 git clone 之类的命令?
A:README 未提供安装或运行说明。其中收录的工具各自独立,需按对应工具的官方文档分别部署。
Q:论文 PDF 在哪里获取?
A:README 通过 Moonlight 链接分享 PDF,点击条目中的 paper 链接即可查看摘要与原文,repo 链接指向论文代码。
Q:如何向列表贡献新资源?
A:先阅读 CONTRIBUTING.md 中的贡献规范,再按格式提交 Pull Request。
注意事项
- 仓库为纯文档索引,无需构建、部署或运行任何服务。
- 收录的工具与论文均指向第三方,使用前请自行确认许可证与安全性。
- 部分链接指向 GitHub 及外部站点,需要可正常访问这些站点的网络环境。
- 列表更新频繁,建议定期执行 git pull 获取最新资源。
核心亮点
- 覆盖全面,从提示注入到模型红队测试的工具都有收录
- 持续更新,紧跟 LLM 安全领域最新动态
- 分类清晰,便于按需查找,节省筛选时间
不足之处
- 部分条目缺乏深度说明,需跳转外部链接
- 文档/社区待观察
适用场景
- 安全研究员调研 LLM 攻击与防御方案
- 开发者为 LLM 应用集成安全检测工具
- 企业评估 LLM 合规与隐私风险
替代项目
OWASP Top 10 for LLM Applications、Awesome LLM Security (其他同名列表)、LLM Security GitHub 资源汇总
上一篇:tau2-bench
下一篇:safe-rlhf
同类项目推荐
FeatureBench
开源
用真实功能开发任务,量出编码智能体的真实水平
[ICLR 2026] Official Implementation of "FeatureBench: Benchmarking Agentic Coding fo···
benchflow
开源
一键搭建 RL 训练与评测流水线,省去重复造轮子
Research infra for creating RL environments, post-training, and evals.
Gym
开源
把模型丢进环境里跑,边评测边改进智能体
Evaluate and improve models and agents using environments
agent-opfor
开源
给AI智能体做安全体检,模拟攻击找漏洞
Open-source adversary emulation for AI agents and MCP servers.
ChineseHarm-bench
开源
测一测你的模型对中文有害内容有多能扛
ChineseHarm-Bench: A Chinese Harmful Content Detection Benchmark
SelfAware
开源
测出模型不知道自己不知道什么,减少胡编乱造
Do Large Language Models Know What They Don’t Know?
SkillEvaluator
开源
给 Agent 技能做体检:查冲突、测安全、验效果
Multi-tier framework for evaluating AI agent skills with quality gates, semantic ove···
UltraText_Bench
开源
给文生图模型做中英文写字能力体检
[Preprint] UltraText Bench: A Comprehensive Bilingual Benchmark for Evaluating Visua···
aiewf-eval
开源
专测大模型长上下文下的安全表现
A long-context eval