Machine_Learning_CTF_Challenges
实战演练AI攻防，用CTF挑战掌握模型攻击与LLM漏洞利用
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 278
核心亮点
- 提供真实可运行的AI攻击场景，覆盖模型窃取、提示注入、Agent漏洞等热点
- 每个挑战附带详细writeup和解题思路，适合自学和教学
- 基于Python实现，环境搭建简单，便于二次开发和扩展新挑战
不足之处
- 项目仍处于早期阶段，挑战数量和覆盖攻击类型有限
- 文档和社区支持尚不完善，部分挑战可能缺少自动化验证脚本
适用场景
- 高校或培训机构的AI安全课程实践教学
- CTF竞赛中AI/ML方向赛题的出题参考
- 企业安全团队评估自身AI系统鲁棒性的内部演练
替代项目
Garak、Counterfit、Adversarial Robustness Toolbox (ART)
同类项目推荐
VelLMes-AI-Deception-Framework
开源
用AI伪装成AI，让攻击者自投罗网
Interactive, dynamic, and realistic LLM honeypots
gpt-instruct
开源
绕过 GPT 安全限制，让 Codex 乖乖执行代码任务
A Codex jailbreak prompt and test pack for gpt. 针对 gpt 系列的 Codex 破甲提示词与测···
Data-Preparation-Bench
开源
用下游效果给训练数据质量打分
A unified, downstream-grounded benchmark for LLM-driven training data construction, ···
ChineseHarm-bench
开源
测一测你的模型对中文有害内容有多能扛
ChineseHarm-Bench: A Chinese Harmful Content Detection Benchmark
node9-proxy
开源
给AI代理装上安全阀，敏感操作先审批再执行
Access control for AI agents. Set what Claude Code, Codex, Gemini, Cursor and any MC···
tau2-bench
开源
测测你的AI智能体，会不会在真实客服场景中翻车
τ-Bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains
Awesome-LMMs-Mechanistic-Interpr···
开源
一站式读懂多模态模型内部工作原理
A curated collection of resources focused on the Mechanistic Interpretability (MI) o···
physics-IQ-benchmark
开源
测测视频模型懂不懂物理，量化物理常识短板
Benchmarking physical understanding in generative video models
WormGPT
开源
模拟攻击场景，测试大模型安全漏洞
WormGPT is an experimental AI project designed strictly for educational, cybersecuri···