owasp
本站收录 19 个带「owasp」标签的 AI 开源项目
agent-governance-toolkit这是一个面向AI智能体的治理工具包，旨在解决自主AI代理在运行时缺乏安全管控和合规能力的问题。它围绕策略执行、零信任身份验证、执行沙箱和可靠性工程四大核心模块构★ 6,362
numasecnumasec 是一个面向网络安全领域的 AI 智能体，以命令行工具（CLI）和 MCP（模型上下文协议）工具的形式提供能力。它旨在将大语言模型（LLM）与安全★ 801
agent-opforagent-opfor 是一个开源的 AI 智能体对抗模拟工具，专注于对 AI 智能体和 MCP 服务器进行红队测试。它解决了 AI 应用在部署前缺乏系统性安全★ 582
awesome-MLSecOpsawesome-MLSecOps 是一个精选的 MLSecOps（机器学习安全运营）工具与资源清单，旨在帮助安全工程师、ML 工程师和 AI 团队系统性地保障机★ 473
prismorprismor 是一个自托管的 AI 智能体运行时控制平面，专注于在工具调用执行前提供安全防护。它解决了 AI 代理在自主执行过程中可能引发的安全问题，如秘密泄★ 379
LLMVaultLLMVault 是一个专为 AI 安全设计的开源训练平台，基于 OWASP LLM Top 10 标准构建，帮助安全工程师、开发者和研究人员学习并实践大语言模★ 326
cyber-neocyber-neo 是一个开源的网络安全分析智能体，专为 Claude Code 设计，用于扫描项目中的安全漏洞。它覆盖 OWASP 2025 Top 10 和★ 273
agent-auditagent-audit 是一个针对 LLM 智能体的静态安全扫描工具，主要解决 AI Agent 应用中的安全漏洞问题，如提示注入、MCP 配置错误和污点分析。★ 233
llamatorllamator 是一个用于测试聊天机器人和生成式 AI 系统的红队（Red Teaming）Python 框架。它主要解决 LLM 应用在安全性和可靠性方面的★ 223
safelabs-evalsafelabs-eval 是一个面向 AI 智能体的红队测试与评测框架，核心目标是把 OWASP ASI（Agentic Security Initiativ★ 220
www-project-agent-memory-guardAgent Memory Guard 是 OWASP 基金会下的一个开源项目，专注于解决 AI 智能体（Agent）的记忆安全问题。随着大语言模型（LLM）驱动★ 183
humanboundHumanbound 是一个开源的对抗性测试引擎，为 AI 智能体提供 SDK 和命令行工具，用于发现和修复智能体中的安全漏洞与逻辑缺陷。它解决的核心问题是：A★ 161
agent-control-standardagent-control-standard 是一个面向 AI 智能体运行时的开放标准与配套实现，用 TypeScript 编写。它要解决的问题是：当智能体开始★ 156
AI-SurfaceAI-Surface 是一个面向应用代码的 AI 攻击面发现与治理工具，核心思路是在代码提交（PR）阶段就识别出 AI 相关组件带来的安全风险。它通过静态扫描代★ 134
PromptMePromptMe 是一个面向大语言模型安全的教育型开源项目，围绕 OWASP LLM Top 10 设计了 10 个动手挑战，帮助开发者和安全人员理解 LLM ★ 111
www-project-machine-learning-security-top-10OWASP机器学习安全十大风险项目，旨在为机器学习系统提供安全风险清单和缓解指南。它借鉴OWASP Top 10的成功模式，专门针对ML组件（如数据、模型、推理★ 106
agent-osagent-os 是一个已废弃的智能体治理与安全框架，由微软发起，现已迁移至 microsoft/agent-governance-toolkit。它旨在解决企★ 74
clawseccheckclawseccheck 是一个针对 OpenClaw 智能体框架的本地只读安全扫描器。它主要解决 OpenClaw 用户在配置和运行智能体时面临的安全风险，包★ 58
don-cheli-sddDon Cheli 是一个面向 AI 代理的规范驱动开发（SDD）框架，旨在将 AI 编程从随意对话转变为严谨的工程流程。它通过 88+ 命令、51 项技能和 ★ 57