AI-ML-Free-Resources-for-Security-and-Prompt-Injection

照着路线图学,从零入门 AI 渗透与提示注入

开源 🏷️完全免费 ✅ 目前可打开 评测安全 🍴 复刻 144 🐛 待处理 1 👀 关注 4
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 821
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 免费开源学习资源

项目预览

AI-ML-Free-Resources-for-Security-and-Prompt-Injection 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队anmolksachan
定价模式🏷️完全免费
价格说明免费开源学习资源
访问状态✅ 目前可打开
是否开源是
技术栈/模型ai,llm,ml,pentest,resource,roadmap
GitHub 星标★ 821
上线时间2024-09-02 00:00:00
代码更新2026-10-22
仓库体积292 KB
本站数据更新2026-11-07
维护状态较活跃
收录时间2026-09-22
浏览次数1

项目介绍

这是一个面向安全从业者和初学者的 AI/ML 渗透测试学习路线图与资源合集,核心解决的是「想入门 AI 安全却不知道从哪学、学什么」的问题。项目把 AI/ML 在安全攻防中的应用场景整理成一条可执行的学习路径,覆盖提示注入(Prompt Injection)、大模型越狱、对抗样本、模型窃取、数据投毒等典型攻击面,同时给出配套的论文、工具、靶场和练习资源。它更像一份持续维护的索引,而不是可运行的代码库,适合用来建立 AI 安全知识框架、规划学习顺序,或作为团队内部培训的参考清单。对于已经熟悉传统渗透测试、想迁移到 LLM 安全方向的人来说,能快速定位到关键概念和实操入口,减少在零散资料里翻找的时间。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-22 · 当前星标 ★ 821

技术标签

使用教程

难度:入门 约 12 分钟 部署方式:文档阅读 4 步

环境要求

  • git

安装与启动步骤

  1. 1取回清单

    安全与提示注入方向的学习资源合集。

    git clone https://github.com/anmolksachan/AI-ML-Free-Resources-for-Security-and-Prompt-Injection.git
    cd AI-ML-Free-Resources-for-Security-and-Prompt-Injection
  2. 2看标注

    资源按「基础/历史/归档/遗留」分级。

    grep -n '^#' README.md | head -30
  3. 3优先读基础

    标 Foundational 的最值得先看。

    grep -in 'foundational' README.md | head -20
  4. 4关注注入防御

    提示注入是当前最实际的风险面。

    # 打开注入相关章节

如何确认成功

能列出一份针对提示注入的防御检查项。

注意事项

  • 标注体系很有用,别在归档资源上浪费时间。
  • 防御要分层:输入过滤、权限隔离、输出校验。
  • 清单是入口,实战仍要看具体系统。

核心亮点

  • 按学习顺序组织资源,降低 AI 安全入门门槛
  • 覆盖提示注入、越狱、对抗样本等主流攻击面
  • 聚合论文、工具、靶场,省去零散搜集成本

不足之处

  • 以链接索引为主,缺少可运行代码和实操示例
  • 内容深度依赖外部资源,更新维护情况待观察

适用场景

  • 安全工程师转型 LLM 安全方向时规划学习路径
  • 团队内部做 AI 安全培训时当参考大纲
  • CTF 或红队练习前快速查找提示注入相关资源

替代项目

OWASP Top 10 for LLM Applications、Awesome-LLM-Security

上一篇:memorybench

下一篇:damn-vulnerable-ai-agent

同类项目推荐

empirical 开源

用数据说话,系统化测试评估你的 LLM 应用

Test and evaluate LLMs and model configurations, across all the scenarios that matte···

★ 166 2026-08-09
future-agi 开源

一站式评估、观测和优化你的 AI 智能体,提升可靠性和安全性。

Open-source, end-to-end platform for evaluating, observing, and improving LLM and AI···

★ 2253 2026-08-09
DeepSec 开源

AI 写码,DeepSec 把关,实时防漏洞,自动测安全。

DeepSec — AI Security Offense & Defense Platform. Shield audits AI-generated code f···

★ 508 2026-08-09
auto_LiRPA 开源

给神经网络算严格上下界,验证对抗鲁棒性

auto_LiRPA: An Automatic Linear Relaxation based Perturbation Analysis Library for N···

★ 359 2026-10-23
AgentBench 开源

一套基准测出 LLM 当智能体到底行不行

A Comprehensive Benchmark to Evaluate LLMs as Agents (ICLR'24)

★ 3817 2026-08-09
TSB-AD 开源

一套接口跑通时序异常检测算法与数据集评测

Time-Series Anomaly Detection | Algorithms + Datasets + Tutorials

★ 346 2026-09-21
rebuff 开源

给 LLM 应用加装防注入安全层,拦截恶意提示词

LLM Prompt Injection Detector

★ 1532 2026-08-09
Deco 开源

让多模态模型少说瞎话,动态纠错解码即插即用

[ICLR 2025] MLLM can see? Dynamic Correction Decoding for Hallucination Mitigation

★ 150 2026-08-09
deepeval 开源

像写单元测试一样评测你的 LLM 应用,快速发现质量回归。

The LLM Evaluation Framework

★ 19335 2026-08-10