awesome-ai-agents-security
一张地图看懂AI代理安全生态，快速找到关键资源
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 79
核心亮点
- 主题聚焦且前沿，精准覆盖AI代理安全这一新兴交叉领域
- 分类清晰，涵盖越狱、护栏、网络安全等核心安全维度
- 持续更新，作为'活地图'能追踪生态快速变化
不足之处
- 项目处于早期，内容覆盖度和深度可能有限
- 文档/社区待观察
适用场景
- 安全研究员快速调研AI代理攻击面与防御方案
- 开发者评估自研AI代理的安全风险并寻找加固资源
- 技术决策者了解AI代理安全生态全貌以制定策略
替代项目
awesome-llm-security、Awesome-AI-Security、owasp-llm-ai-security-resources
上一篇：Workspace-Bench
下一篇：TravelPlanner
同类项目推荐
ollama-grid-search
开源
本地 Ollama 模型批量跑评测，网格对比一键出结果
A multi-platform desktop application to evaluate and compare LLM models, written in ···
hackagent
开源
给 AI 智能体做安全体检，提前发现漏洞防攻击
HackAgent is an open-source security toolkit to detect vulnerabilities of your AI Ag···
dep-scan
开源
扫依赖和镜像，查漏洞与许可证风险，出 SBOM
OWASP dep-scan is a next-generation security and risk audit tool based on known vuln···
FollowBench
开源
用多级细粒度约束，精准测出大模型指令遵循的真实水平
[ACL 2024] FollowBench: A Multi-level Fine-grained Constraints Following Benchmark f···
absent-author
开源
用证据清单和 AI agent 揪出没人负责的 AI 论文
Research and writing can be automated. Authorship cannot. Evidence list + agent skil···
RWKU
开源
给大模型做“记忆清除手术”，并验证效果是否达标
RWKU: Benchmarking Real-World Knowledge Unlearning for Large Language Models. NeurIP···
ollama-benchmark
开源
一键测本地大模型吞吐，选模型不靠猜
LLM Benchmark for Throughput via Ollama (Local LLMs)
Awesome-Process-Reward-Models
开源
一站式索引过程奖励模型论文与代码，快速上手推理监督
A comprehensive collection of process reward models.
AwesomeLLM4APR
开源
一页看尽大模型修Bug研究全景，快速入门与选题
[TOSEM 2026]A Systematic Literature Review on Large Language Models for Automated Pr···