awesome-ai-security-tools
一页清单，快速定位 AI 安全各细分方向的可用工具
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 1713
使用教程
⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。
⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。
环境要求
- git（用于克隆仓库）
- Python 3（仅运行 README 中提到的指标刷新脚本时需要）
- 可访问 GitHub 的网络（刷新星标/最近提交指标时需要）
- 任意文本编辑器或 Markdown 阅读器（浏览清单用）
安装与启动步骤
-
1克隆清单仓库
把清单仓库拉到本地，得到 README.md 及 scripts 目录。仓库本身是索引清单，不包含清单中工具的实现代码。
git clone https://github.com/scadastrangelove/awesome-ai-security-tools.git -
2按目录定位工具
README 顶部有 Contents 目录，按分类（自动分诊、Agent 安全、AI/ML 供应链、渗透测试 Agent、LLM 红队等）跳转，逐个点开条目里的 GitHub / 论文链接。
cd awesome-ai-security-tools -
3刷新 GitHub 指标
README 中的 ★ 星标与最近提交是静态快照（最近刷新 2026-09-14），发布前可用仓库自带脚本重新拉取更新。需 Python 3 环境。
python3 scripts/update_github_metrics.py
如何确认成功
打开 README.md 能看到分类目录与各工具条目即成功；运行刷新脚本后脚本正常结束、条目中的星标与日期被更新。
常见问题
Q：这个项目需要安装吗？
A：不需要。它是精选工具清单，不是可运行的软件；README 里没有安装说明，克隆后直接阅读即可，唯一可执行的只有指标刷新脚本。
Q：怎么快速找到某个细分方向的工具？
A：先在 README 的 Contents 目录里找到对应章节（如 Runtime Protection & Enforcement、Pentest & Red-Team Agents），再按条目描述和星标、最近提交时间挑活跃项目。
Q：⚠️ 这些标记是什么意思？
A：README 的 Type legend 说明： 公开源码/开源， 研究（论文/基准/数据集/框架）， 含开源组件的商业产品，⚠️ 许可受限、非商用或不明——使用前务必确认许可。
Q：刷新脚本报错怎么办？
A：先确认本机 python3 可用且已联网访问 GitHub；README 未提供该脚本的依赖与参数说明，若仍失败可直接手动查看条目中的仓库页面。
注意事项
- 本项目是索引清单而非代码库，清单中的工具需逐个到各自仓库按其自身文档安装。
- README 中的星标和最近提交是静态快照（最近刷新日期 2026-09-14），会过时。
- 带 ⚠️ 的条目许可受限或不明，商业组件（）可能需要账号与后端服务，使用前先核对许可证。
- README 未给出安装说明，本教程步骤仅为通用准备动作与克隆/刷新操作，不含任何未经 README 记载的安装命令。
核心亮点
- 按 autotriage、agent 安全、AI SAST、LLM 红队等细分场景分类，检索效率高
- 同时收录开源、研究与商业工具，便于横向对比选型
- 覆盖 AI/ML 供应链与 SOC/SIEM 分诊等热门方向，跟进速度快
不足之处
- 仅做链接罗列，缺少工具成熟度、维护状态和实测对比
- 分类边界偶有重叠，部分条目描述较简略
适用场景
- 安全团队调研 AI 辅助渗透测试或 LLM 红队工具选型
- 研究者快速了解 AI/ML 供应链安全方向的现有方案
- SOC 工程师寻找可落地的 AI 分诊与威胁情报工具
替代项目
awesome-machine-learning、awesome-security
上一篇：Gym
下一篇：stride-gpt
同类项目推荐
ASSERT
开源
按需求自动生成用例，本地跑测 AI Agent 行为
Requirement-driven evaluation harness for AI agents and LLM applications. Generate b···
SelfAware
开源
测出模型不知道自己不知道什么，减少胡编乱造
Do Large Language Models Know What They Don’t Know?
PatchEval
开源
用真实漏洞测大模型修 bug 的真本事
PatchEval: A New Benchmark for Evaluating LLMs on Patching Real-World Vulnerabilitie···
Viper
开源
用AI驱动红队演练，自动化攻击模拟，提升渗透效率
Adversary simulation and Red teaming platform with AI
LiveBench
开源
每月换新题，测出模型真实水平
LiveBench: A Challenging, Contamination-Free LLM Benchmark
ResearchClawBench
开源
给AI科研智能体打分，从复现实验到发现新知识
ResearchClawBench: Evaluating AI Agents for Automated Research from Re-Discovery to ···
semantic-object-accuracy-for-gen···
开源
评估生成图像中对象是否画对了，给文本到图像模型打分。
Code for "Semantic Object Accuracy for Generative Text-to-Image Synthesis" (TPAMI 20···
awesome-ai-eval
开源
一站式收藏AI评估工具，快速选型不踩坑
Assessing the reliability, accuracy, and safety of large language models, RAG pipeli···
hol-guard
开源
给 AI 代理装杀毒软件，实时拦截危险操作和攻击
Open-source antivirus and firewall for AI agents: block risky tools, secret access, ···