项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-22 · 当前星标 ★ 821
使用教程
环境要求
- git
安装与启动步骤
-
1取回清单
安全与提示注入方向的学习资源合集。
git clone https://github.com/anmolksachan/AI-ML-Free-Resources-for-Security-and-Prompt-Injection.git cd AI-ML-Free-Resources-for-Security-and-Prompt-Injection -
2看标注
资源按「基础/历史/归档/遗留」分级。
grep -n '^#' README.md | head -30 -
3优先读基础
标 Foundational 的最值得先看。
grep -in 'foundational' README.md | head -20 -
4关注注入防御
提示注入是当前最实际的风险面。
# 打开注入相关章节
如何确认成功
能列出一份针对提示注入的防御检查项。
注意事项
- 标注体系很有用,别在归档资源上浪费时间。
- 防御要分层:输入过滤、权限隔离、输出校验。
- 清单是入口,实战仍要看具体系统。
核心亮点
- 按学习顺序组织资源,降低 AI 安全入门门槛
- 覆盖提示注入、越狱、对抗样本等主流攻击面
- 聚合论文、工具、靶场,省去零散搜集成本
不足之处
- 以链接索引为主,缺少可运行代码和实操示例
- 内容深度依赖外部资源,更新维护情况待观察
适用场景
- 安全工程师转型 LLM 安全方向时规划学习路径
- 团队内部做 AI 安全培训时当参考大纲
- CTF 或红队练习前快速查找提示注入相关资源
替代项目
OWASP Top 10 for LLM Applications、Awesome-LLM-Security
上一篇:memorybench
同类项目推荐
empirical
开源
用数据说话,系统化测试评估你的 LLM 应用
Test and evaluate LLMs and model configurations, across all the scenarios that matte···
future-agi
开源
一站式评估、观测和优化你的 AI 智能体,提升可靠性和安全性。
Open-source, end-to-end platform for evaluating, observing, and improving LLM and AI···
DeepSec
开源
AI 写码,DeepSec 把关,实时防漏洞,自动测安全。
DeepSec — AI Security Offense & Defense Platform. Shield audits AI-generated code f···
auto_LiRPA
开源
给神经网络算严格上下界,验证对抗鲁棒性
auto_LiRPA: An Automatic Linear Relaxation based Perturbation Analysis Library for N···
AgentBench
开源
一套基准测出 LLM 当智能体到底行不行
A Comprehensive Benchmark to Evaluate LLMs as Agents (ICLR'24)
TSB-AD
开源
一套接口跑通时序异常检测算法与数据集评测
Time-Series Anomaly Detection | Algorithms + Datasets + Tutorials
rebuff
开源
给 LLM 应用加装防注入安全层,拦截恶意提示词
LLM Prompt Injection Detector
Deco
开源
让多模态模型少说瞎话,动态纠错解码即插即用
[ICLR 2025] MLLM can see? Dynamic Correction Decoding for Hallucination Mitigation
deepeval
开源
像写单元测试一样评测你的 LLM 应用,快速发现质量回归。
The LLM Evaluation Framework
