给机器学习系统做安全体检，照着清单防十大风险。
OWASP机器学习安全十大风险项目，旨在为机器学习系统提供安全风险清单和缓解指南。它借鉴OWASP Top 10的成功模式，专门针对ML组件（如数据、模型、推理管道）的独特漏洞，列出十大关键安全风险，如提示注入、数据投毒、模型窃取等。项目提供每个风险的描述、攻击场景示例、影响分析以及缓解措施，帮助开发者和安全团队在构建和部署ML系统时识别和防范潜在威胁。它填补了传统应用安全清单在AI领域的空白，是ML安全领域的权威参考。
MITRE ATLAS、NIST AI Risk Management Framework、Microsoft Counterfit
www-project-machine-learning-security-top-10 是评测安全领域的开源项目，由 OWASP 开发，2019 年首次发布。
它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 106。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-04。无在线服务，需自行部署，完全免费。
它主要面向的使用场景是：企业评估ML系统安全性时作为检查清单。同类可对比的替代方案包括 MITRE ATLAS、NIST AI Risk Management Framework、Microsoft Counterfit。
上一篇：deepchecks
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
Tracely-ai
开源
把生产事故变成回归测试，合并前自动拦截 AI 故障
Trace-native CI/CD for AI agents — production failures become regression tests that···
