ai-dfir-toolkit

给 AI 系统装上开箱即用的入侵检测规则

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 评测安全 🍴 复刻 25 🐛 待处理 106
GitHub ↗
GitHub 星标 ★ 132
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费，无付费版本

项目预览

ai-dfir-toolkit 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类评测安全
开发团队depalmar
GitHubhttps://github.com/depalmar/ai-dfir-toolkit
定价模式🏷️完全免费
价格说明开源免费，无付费版本
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型ai-security,detection-engineering,dfir,forensics,incident-response,llm-security,mcp,sigma,threat-hunting
GitHub 星标★ 132
上线时间2026-04-19 00:00:00
代码更新2026-10-26
仓库体积2.3 MB
本站数据更新2026-10-31
维护状态活跃
收录时间2026-10-31
浏览次数0

项目介绍

ai-dfir-toolkit 是一套面向 AI 系统安全检测的开源规则合集，核心价值在于把 LLM 应用、MCP 服务器、机器学习供应链、AI 基础设施、RAG/向量数据库等新型攻击面的检测逻辑，统一沉淀为 Sigma、YARA、Suricata 三种主流规则格式。项目本身不绑定厂商，也不提供检测引擎，而是作为规则库供 SIEM、EDR、NDR 等现有安全平台直接导入使用，帮助安全团队在 AI 系统被入侵或滥用时快速建立告警能力。规则覆盖提示注入、模型投毒、向量库越权访问、AI 辅助内部威胁等场景，配套 Python 脚本用于规则整理与校验。适合 DFIR 分析师、检测工程师和 AI 平台安全负责人作为基线参考，降低从零编写 AI 安全检测规则的重复成本。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-10-31 · 当前星标 ★ 132

核心亮点

  • 同时提供 Sigma、YARA、Suricata 三种格式，可对接 SIEM、EDR、NDR 等主流安全平台
  • 覆盖 LLM 应用、MCP 服务器、ML 供应链、RAG/向量库等较新的攻击面，填补传统规则库空白
  • 厂商中立，规则以文本形式组织，便于按自身环境裁剪和二次开发

不足之处

  • 项目处于早期，规则数量与覆盖面仍在积累，部分场景可能只有少量规则
  • 缺少配套的规则部署说明与误报调优指南，落地需要一定检测工程经验

适用场景

  • 安全团队为自建 LLM 应用和 MCP 服务搭建检测告警基线
  • DFIR 分析师在 AI 系统入侵事件中快速套用现成规则进行排查
  • 企业将规则导入现有 SIEM/EDR，补齐 AI 基础设施的监控盲区

替代项目

SigmaHQ/sigma、Neo23x0/signature-base、elastic/detection-rules

上一篇：Jailbreaks-GPT-Gemini-deepseek-

下一篇：crust

同类项目推荐

python-sdk 开源

官方 Python 客户端，几行代码接入标准化 AI 评测

The official Python SDK for Eval Protocol

★ 110 2026-10-22
trulens 开源

给LLM应用装上仪表盘，量化评估效果，快速定位问题。

Evaluation and Tracking for LLM Experiments and AI Agents

★ 3621 2026-08-09
OpenRT 开源

一键对多模态大模型发起42+攻击，快速暴露安全漏洞

Open-source red teaming framework for MLLMs with 42+ attack methods

★ 279 2026-08-10
secure-ai-tooling 开源

给AI系统做安全体检，用统一框架识别和缓解风险

The CoSAI Risk Map is a framework for identifying, analyzing, and mitigating securit···

★ 102 2026-08-09
M3Exam 开源

全球大模型谁更聪明？多语言考卷测出真实力

Data and code for paper "M3Exam: A Multilingual, Multimodal, Multilevel Benchmark fo···

★ 105 2026-08-09
AgentBench 开源

一套基准测出 LLM 当智能体到底行不行

A Comprehensive Benchmark to Evaluate LLMs as Agents (ICLR'24)

★ 3799 2026-08-09
auto_LiRPA 开源

给神经网络算严格上下界，验证对抗鲁棒性

auto_LiRPA: An Automatic Linear Relaxation based Perturbation Analysis Library for N···

★ 358 2026-10-23
AssetOpsBench 开源

工业设备运维智能体，一套基准直接评测落地

AssetOpsBench - Industry 4.0: A unified benchmark and framework for building, orches···

★ 2407 2026-10-13