一站式查找 AI/ML 安全工具，快速构建防御体系
awesome-MLSecOps 是一个精选的 MLSecOps（机器学习安全运营）工具与资源清单，旨在帮助安全工程师、ML 工程师和 AI 团队系统性地保障机器学习与 AI 系统的安全。它覆盖了对抗性机器学习防御、LLM 安全、AI 红队测试、模型扫描、供应链保护以及 MLOps 流水线安全等关键领域。项目以 Astro 构建的静态网站形式呈现，分类清晰，收录了丰富的开源工具、框架、论文和最佳实践，解决了 AI 安全领域知识分散、工具选择困难的问题。核心能力包括提供结构化的安全工具导航、对抗攻击与防御策略参考、LLM 安全评估方法，以及供应链和 MLOps 安全最佳实践，是构建 AI 安全体系的重要参考资源。
Awesome-AI-Security、Awesome-LLM-Security、Adversarial Machine Learning Resources
awesome-MLSecOps 是评测安全领域的开源项目，由 RiccardoBiosas 开发，2023 年首次发布。
它收录于评测安全分类，该分类目前共有 466 个项目，GitHub 星标数为 471。
项目保持着较活跃的维护节奏，最近一次代码更新于 2026-09-23。该项目为开源资源列表，官网提供在线浏览，内容完全免费，无付费版本。从国内网络环境看，可直接访问。
它主要面向的使用场景是：AI安全团队评估和选择MLSecOps工具。同类可对比的替代方案包括 Awesome-AI-Security、Awesome-LLM-Security、Adversarial Machine Learning Resources。
下一篇：promptfoo
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
