awesome-cyber-ai-arsenal
一站式导航AI安全攻防工具，快速定位所需资源
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 185
核心亮点
- 分类清晰，覆盖攻防和AI安全全谱系，便于按需检索
- 紧跟AI安全热点，收录大量LLM安全评估与攻击工具
- 社区驱动，持续更新，能反映最新工具动态
不足之处
- 项目处于早期，收录工具数量有限，覆盖面待扩充
- 文档/社区待观察，缺乏深度使用指南和案例
适用场景
- AI红队评估：查找针对LLM的越狱、提示注入测试工具
- 蓝队防御：定位AI安全监控和异常检测工具
- 安全研究：快速了解AI安全工具生态和趋势
替代项目
awesome-ai-security、awesome-llm-security、awesome-hacking-tools
同类项目推荐
GenDataAttribution
开源
量化训练图像对AI生成的影响，让模型更透明。
Evaluating Data Attribution for Text-to-Image Models: a visual data attribution ben···
hallucination-leaderboard
开源
看哪个大模型摘要最不容易瞎编
Leaderboard Comparing LLM Performance at Producing Hallucinations when Summarizing S···
Awesome-AIGC-Image-Video-Detecti···
开源
一页看全 AIGC 图像视频检测论文、数据集与基准
A curated collection of the latest research and resources on AI-Generated Image and ···
modelbench
开源
给 AI 模型做安全体检，一键出详细报告
Run safety benchmarks against AI models and view detailed reports showing how well t···
ai-privacy-toolkit
开源
给 AI 模型做隐私体检，快速发现合规风险
A toolkit for tools and techniques related to the privacy and compliance of AI model···
WatermarkDM
开源
给AI生成的图像打上隐形水印，一键溯源防滥用
[Tech report]: A Recipe for Watermarking Diffusion Models
ResolveLab
开源
给 Agent 工具注入故障，用副作用打分验真本事
Fault-injected tool environments with side-effect grading for evaluating and post-tr···
harbor
开源
在真实终端里给智能体打分，让改进有据可依
Framework for evaluating and improving agents
system_prompts_leaks
开源
扒开各家 AI 的底牌，看清它怎么想、怎么答
Leaked system prompts of ChatGPT, Claude, Gemini and more. The hidden system prompt ···