awesome-MLSecOps

一站式查找 AI/ML 安全工具，快速构建防御体系

开源 🏷️完全免费 ✅ 目前可打开 开源模型 🍴 复刻 129 🐛 待处理 28 👀 关注 14
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 490
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 该项目为开源资源列表，官网提供在线浏览，内容完全免费，无付费版本。

项目预览

awesome-MLSecOps 项目界面预览图
图片来源：项目官网

项目数据

分类开源模型
开发团队RiccardoBiosas
官网地址https://awesomemlsecops.com
GitHubhttps://github.com/RiccardoBiosas/awesome-MLSecOps
定价模式🏷️完全免费
价格说明该项目为开源资源列表，官网提供在线浏览，内容完全免费，无付费版本。
访问状态✅ 目前可打开
是否开源是
开源协议MIT
主要语言Astro
技术栈/模型adversarial-machine-learning,agentic-security,ai-agents,ai-governance,ai-red-teaming,ai-security,data-poisoning,large-language-model,llm-security,machine-learning-security,mcp-security,mlops,mlops-security,mlsecops,model-poisoning,owasp,prompt-injection,rag-security,supply-chain-security,threat-modeling
GitHub 星标★ 490
上线时间2023-04-01 00:00:00
代码更新2026-11-09
仓库体积573 KB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数8

项目介绍

awesome-MLSecOps 是一个精选的 MLSecOps（机器学习安全运营）工具与资源清单，旨在帮助安全工程师、ML 工程师和 AI 团队系统性地保障机器学习与 AI 系统的安全。它覆盖了对抗性机器学习防御、LLM 安全、AI 红队测试、模型扫描、供应链保护以及 MLOps 流水线安全等关键领域。项目以 Astro 构建的静态网站形式呈现，分类清晰，收录了丰富的开源工具、框架、论文和最佳实践，解决了 AI 安全领域知识分散、工具选择困难的问题。核心能力包括提供结构化的安全工具导航、对抗攻击与防御策略参考、LLM 安全评估方法，以及供应链和 MLOps 安全最佳实践，是构建 AI 安全体系的重要参考资源。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 490

使用教程

难度：入门 约 20 分钟 部署方式：无需部署 4 步

环境要求

  • 无需部署

安装与启动步骤

  1. 1认清它是清单

    汇总的是机器学习安全运维方向的资源。

  2. 2按阶段分

    数据、模型、部署、监控各有对应。

  3. 3先看威胁模型

    不建威胁模型谈防护是空的。

  4. 4挑可落地的

    很多条目偏理念，工程价值要筛。

如何确认成功

能说清机器学习系统在数据与模型两个阶段各有哪些典型攻击面，并挑出两个可直接落地的检测工具

注意事项

  • 这是机器学习安全运维方向的资源清单，由 newsletter 作者维护。
  • 核心是把传统安全运维的思路迁到模型系统上。
  • 没有威胁模型就没有防护重点，先想清楚防谁。
  • 清单偏资源索引，深度有限。

核心亮点

  • 分类详尽，覆盖对抗攻击、LLM 安全、红队、供应链等关键领域
  • 收录大量真实工具与资源，可直接用于安全评估和加固
  • 基于 Astro 构建，网站性能好，浏览体验流畅

不足之处

  • 项目处于早期，收录工具数量有限，部分类别深度不足
  • 文档/社区待观察

适用场景

  • AI 安全团队评估和选择 MLSecOps 工具
  • 安全研究人员查找对抗性攻击与防御的参考资料
  • 企业构建 LLM 应用时进行安全合规检查

替代项目

Awesome-AI-Security、Awesome-LLM-Security、Adversarial Machine Learning Resources

上一篇：awesome-llm-unlearning

下一篇：promptfoo

同类项目推荐

agentgg 开源

百个AI安全智能体，扫仓库和PR，自动挖漏洞

Open source agentic SAST. The engine behind hundreds of disclosed zero-days. 100+ AI···

★ 460 2026-09-30
keystone-bench 开源

换掉关键事实，看AI医疗建议会不会跟着变

A clinical decision-evidence benchmark: pull the one fact an answer rests on, and se···

★ 1131 2026-09-28
nemo-helix 开源

让上线的 AI Agent 更快更准更安全

NeMo Helix: Make the agents you ship faster, more accurate, and safer.

★ 140 2026-10-21
context-bombs 开源

用现成的攻击字符串，测出你的 AI 系统抗不抗揍。

Context bomb strings

★ 164 2026-08-10
Aegis 开源

给AI代理装上监控摄像头，实时盯住它的每一个动作。

Your agents have access. You deserve visibility. A local security dashboard for AI c···

★ 161 2026-08-09
giskard-oss 开源

给 LLM 应用做全面质检，上线前自动揪出漏洞和偏见

Open-Source Evaluation & Testing library for LLM Agents

★ 5946 2026-08-09
PromptMe 开源

10 个动手挑战，亲手打穿 LLM 安全漏洞

PromptMe is an educational project that showcases security vulnerabilities in large ···

★ 113 2026-09-15
VibeSearchBench 开源

专治搜索系统'听不懂人话'，用200个模糊任务测出真实力

The hardest search benchmark in the wild — vague, multi-turn, proactive. 200 long-h···

★ 107 2026-08-09