agent-security
本站收录 38 个带「agent-security」标签的 AI 开源项目
nasikoNasiko 是一个用 Rust 编写的 AI Agent 开发者控制平面，定位为智能体运行时的统一管理与治理层。它要解决的问题是：当团队同时运行多个 AI A★ 9,101
AI-Infra-GuardAI-Infra-Guard 是一个全栈 AI 红队测试平台，旨在系统性评估和加固 AI 生态系统的安全性。它解决了 AI 应用从模型、代理、技能到基础设施各层★ 6,636
nononono 是一个用 Rust 编写的 AI 智能体沙箱工具，旨在让开发者以零配置、零延迟的方式运行任何 AI 智能体。它解决了 AI 智能体在代码执行、工具调用★ 4,270
agentic_securityAgentic Security 是一个面向 LLM 应用的漏洞扫描与 AI 红队工具包。它解决的是大模型应用上线前的安全评估问题，通过自动化模糊测试和攻击模拟★ 2,013
agent-beaconagent-beacon 是一个用 Go 编写的跨框架、可自我进化的 AI 智能体内存层。它解决的核心问题是：不同 AI 编程助手（如 Claude Code、★ 1,718
ADRADR 是一个面向企业级 AI 智能体的安全防护框架，由 Uber 部署并开源。它解决的核心问题是：随着 AI Agent 在企业中承担越来越多的自动化任务，其★ 1,614
numbatnumbat 是一个面向 AI 智能体终端活动的安全可见性工具，用 Go 编写。它解决的是 AI 智能体在终端上执行操作时缺乏监控和防护的问题。其核心能力包括：★ 1,081
pipelockpipelock 是一个开源的 AI 智能体防火墙，专注于 MCP（模型上下文协议）安全和智能体出口流量管控。它解决了 AI 智能体在调用外部工具和服务时面临的★ 913
arcjet-jsArcjet 是一个面向 AI 应用和智能体的运行时安全库，专为 JavaScript/TypeScript 生态设计。它解决的核心问题是 AI 应用在交互过程★ 684
hol-guardhol-guard 是一个面向 AI 智能体的开源防病毒工具，旨在解决 AI 代理在运行时面临的多类安全威胁。它能够实时拦截高风险工具调用、敏感凭据访问、提示注★ 681
anolisaANOLISA（Agentic Nexus Operating Layer & Interface System Architecture）是一个用 Rust ★ 657
emilia-protocolEMILIA Gate 是一个为 AI 智能体打造的“后果防火墙”，在智能体执行涉及金钱、代码、权限、基础设施或受监管状态变更等高风险操作前，强制进行精确的权限★ 617
agent-safe-pipelineagent-safe-pipeline 是一个为 AI 智能体提供安全执行边界的参考架构，解决智能体“能提议但不能擅自行动”的权限管控问题。其核心流程包括：不可★ 589
AdrianAdrian 是一个开源的 AI 智能体安全运行时工具，专门用于监控和控制 AI 智能体的行为。它解决的是智能体在执行任务时可能出现的恶意工具调用、提示注入攻击★ 577
SponsioSponsio 是一个面向概率性 AI 智能体的确定性安全解决方案框架。它通过为智能体提供可验证的安全护栏、运行时监控和技能沙箱，解决大模型输出不可控、工具调用★ 441
prismorprismor 是一个自托管的 AI 智能体运行时控制平面，专注于在工具调用执行前提供安全防护。它解决了 AI 代理在自主执行过程中可能引发的安全问题，如秘密泄★ 379
agentsealAgentSeal 是一个面向 AI 智能体的安全工具包，主要解决 AI Agent 在运行时面临的安全风险，包括恶意技能、MCP 配置漏洞、供应链攻击、提示注★ 377
LLMVaultLLMVault 是一个专为 AI 安全设计的开源训练平台，基于 OWASP LLM Top 10 标准构建，帮助安全工程师、开发者和研究人员学习并实践大语言模★ 326
Doberman-CoreDoberman-Core 是一个面向 AI 智能体的安全框架，专注于解决 LLM 应用中的安全防护问题。它提供提示注入防御、运行时策略执行、工具调用权限控制、★ 277
Doberman-CoreDoberman-Core 是一个面向 AI 代理的运行时安全防护库，定位为“AI 的看门狗”。它解决的是 LLM 应用在输入、输出和工具调用环节缺乏实时管控的★ 277
awesome-agent-cortexawesome-agent-cortex 是一份面向 AI 智能体生态的精选资源地图，用分类清单的方式把散落在各处的框架、协议、运行时、技能、记忆、身份、安全、★ 222
safelabs-evalsafelabs-eval 是一个面向 AI 智能体的红队测试与评测框架，核心目标是把 OWASP ASI（Agentic Security Initiativ★ 220
node9-proxynode9-proxy 是一个面向 AI Agent 时代的执行安全层，为自主 AI 代理提供确定性的“Sudo”治理和审计日志。它解决的是当前 LLM 代理在★ 216
caracalcaracal 是一个面向 AI 智能体的授权与安全框架，核心思想是“基于权限而非凭证”来控制智能体行为。它解决的是当前 AI 智能体在自主执行任务时缺乏细粒度★ 215
dodoguardDodoGuard 是一个面向 AI Agent 全生命周期的开源安全防护工具，用 TypeScript 编写，主要解决 Dify、Coze、FastGPT、n★ 158
mcp-observatorymcp-observatory 是一个面向 MCP（模型上下文协议）服务器的 CI 原生安全测试工具。它解决了 AI 智能体在依赖 MCP 服务器前缺乏安全验证★ 140
shellwardshellward 是一个面向 AI 应用的合规与安全网关，旨在帮助开发者和企业快速识别并修复 AI 项目中的合规风险。它通过一行命令对项目进行静态体检，覆盖数★ 139
template-repotemplate-repo 是一个基于 Rust 的智能体编排与安全模板项目，旨在为开发者提供构建、部署和保护 AI 代理的参考框架。它解决了多代理协作中的信任★ 132
gensee-crategensee-crate 是一个用 Rust 编写的 AI 智能体安全运行工具，旨在为 Claude Code、Codex、Copilot 等 AI 编程助手提★ 125
guardian-sdkGuardian SDK 是 Ethicore Engine™ 的开源组件，一个专注于 AI 安全、伦理与合规的防护平台。它通过多层分析流水线，保护 AI 应用★ 122
agentjailagentjail 是一个为编码智能体（如 Claude Code、Codex、Cursor）提供策略护栏的开源工具。它解决的核心问题是：AI 编程助手在自动执★ 96
rampartrampart 是一个面向 AI 智能体的开源防火墙，采用 Go 语言开发。它通过策略引擎审计和控制 OpenClaw、Claude Code、Cursor、C★ 89
datafog-pythondatafog-python 是一个面向 AI 智能体和 LLM 应用的离线 PII（个人身份信息）防火墙。它解决的是 AI 应用在交互过程中可能泄露敏感数据的★ 75
agent-osagent-os 是一个已废弃的智能体治理与安全框架，由微软发起，现已迁移至 microsoft/agent-governance-toolkit。它旨在解决企★ 74
agent-identity-managementagent-identity-management 是为 AI 智能体打造的 IAM（身份与访问管理）层，专注于解决非人类身份（如 AI Agent、机器人、自★ 67
lelulelu 是一个面向 AI 智能体的开源授权引擎，专注于解决大模型应用中的安全与合规问题。它提供信心感知的门控机制，当智能体对操作不确定时自动暂停并请求人工审批★ 66
helm-ai-kernelhelm-ai-kernel 是一个面向 AI 智能体的执行防火墙，采用 Go 语言开发。它解决的核心问题是：当 AI 代理（如基于 MCP 的工具调用）执行操★ 61
clawseccheckclawseccheck 是一个针对 OpenClaw 智能体框架的本地只读安全扫描器。它主要解决 OpenClaw 用户在配置和运行智能体时面临的安全风险，包★ 58