security 第 3 页
本站收录 152 个带「security」标签的 AI 开源项目（按 GitHub 星标从高到低，第 3 / 4 页）
node9-proxynode9-proxy 是一个面向 AI Agent 时代的执行安全层，为自主 AI 代理提供确定性的“Sudo”治理和审计日志。它解决的是当前 LLM 代理在★ 219
watchtowerWatchtower 是一个基于大语言模型和 LangGraph 编排的 AI 渗透测试自动化命令行工具，面向需要在本地对自有网站做安全测试的开发者与安全人员。★ 217
OctoBusOctoBus 是一个面向 AI 智能体的安全本地网关，旨在让智能体可靠地调用企业批准的 API、工具和服务。它解决了 AI 智能体在访问企业内部系统时面临的安★ 203
watchtowerAIShield Watchtower 是一个用于AI模型洞察与漏洞扫描的开源工具，旨在帮助开发者和安全团队深入理解AI模型的行为，并识别潜在的安全风险。它通过★ 202
sec-afsec-af 是一个基于 AgentField 的 AI 原生代码安全审计工具，旨在自动化发现并证明代码漏洞的可利用性。它通过智能体自主分析代码库，生成包含明确★ 200
wirkenwirken 是一个面向企业的自主智能体网关，用 Rust 编写，为 LLM 智能体提供统一的身份管理、按渠道隔离、凭证保险库和每会话防篡改审计日志。它解决企业★ 191
agentsecretsagentsecrets 是一个面向 AI 代理的零知识凭证基础设施，旨在让代理不仅能消费凭证，还能安全地操作它们。它解决了 AI 代理在自主执行任务时面临的凭★ 190
www-project-agent-memory-guardAgent Memory Guard 是 OWASP 基金会下的一个开源项目，专注于解决 AI 智能体（Agent）的记忆安全问题。随着大语言模型（LLM）驱动★ 189
prompt-guardprompt-guard 是一个面向 AI 智能体的高级提示注入防御系统，旨在解决大语言模型应用面临的提示注入攻击问题。它提供多语言检测能力，能够识别多种语言的★ 180
awesome-cyber-ai-arsenal这是一个精选的开源工具清单，汇集了进攻性安全、防御性安全以及AI/LLM安全相关的资源。它旨在解决安全从业者在AI时代工具分散、信息过载的问题，通过分类整理，帮★ 180
mcp-sharkmcp-shark 是一个面向 Model Context Protocol（MCP）通信的取证分析工具，类似于 Wireshark 对网络流量的抓包分析。它主★ 179
wardenWarden 是一个用 Go 编写的安全网关，旨在连接 AI 代理与企业系统。它解决了 AI 代理在访问企业内部资源时缺乏统一安全管控的问题，核心能力包括凭证管★ 178
hazmathazmat 是一个面向 AI 代理的安全隔离工具，用 Go 编写，专为 macOS 设计。它解决的核心问题是：当 AI 代理（如 Claude Code）在本★ 178
genai-factorygenai-factory 是一套面向 Google Cloud（GCP）的生成式 AI 基础设施蓝图集合，用 Terraform（HCL）编写，目标是把部署生★ 175
BelloBello 是一个面向编码智能体（coding agent）的增强型工具，核心目标是让 AI 编程助手在同等质量下获得约三倍的可用额度。它通过多智能体编排来解决★ 157
fast-llm-security-guardrailsfast-llm-security-guardrails 是一个面向 AI Agent 的快速安全防护层（Trust Layer），旨在解决 LLM 应用中的提★ 155
AgentGuardAgentGuard 是一个面向 AI Agent 的零信任安全基础框架，旨在解决大模型智能体在自主执行任务时面临的安全与合规问题。它通过策略引擎对 Agent★ 151
agent-smithagent-smith 是一个开源的 AI 黑客代理，用 Python 编写，旨在自动化渗透测试和安全评估任务。它解决的是传统安全测试依赖人工、效率低的问题，通★ 148
mcp-observatorymcp-observatory 是一个面向 MCP（模型上下文协议）服务器的 CI 原生安全测试工具。它解决了 AI 智能体在依赖 MCP 服务器前缺乏安全验证★ 142
fireautofireauto 是一个基于 Claude Code 的自动化插件，旨在通过单一命令简化 SEO、安全审计、团队协作、PRD 生成和 Reddit 研究等任务。★ 140
shellwardshellward 是一个面向 AI 应用的合规与安全网关，旨在帮助开发者和企业快速识别并修复 AI 项目中的合规风险。它通过一行命令对项目进行静态体检，覆盖数★ 139
sec-code-benchSecCodeBench 是一个专注于评估大语言模型生成代码安全性的基准测试套件。随着 LLM 被广泛用于代码补全、生成和修复，模型可能产出带有漏洞的代码，如注★ 135
autoguardrailsAutoGuardrails 是一个面向 LLM 护栏的 alignment-research 脚手架，采用 autoresearch 风格，在单一的 poli★ 129
agentwatchagentwatch 是一个面向 AI 智能体的可观测性框架，旨在帮助开发者深入洞察智能体与各平台之间的交互过程。它解决了 AI 应用调试和优化中“黑盒”问题，★ 126
magpieMagpie 是面向 Apache 开源项目的智能体辅助维护与开发框架，用 Python 编写，核心是把大模型 Agent 嵌入到开源社区日常维护流程中。它要解★ 120
alfred-devalfred-dev 是一个针对 Claude Code 的插件，提供 18 个专业智能体、60 个技能、25 个命令和 13 个钩子，以增强 AI 编程助手的★ 117
ClawdbossClawdboss 是一个基于 OpenClaw 的多智能体快速部署方案，旨在通过一个脚本将全新的服务器或本地环境配置为功能完备且安全加固的 AI 助手，支持 ★ 115
ascendascend 是一个面向 AI 时代 CI/CD 流水线的 DevSecOps 工具，用 Python 编写。它针对的核心问题是：当开发者越来越多地借助 AI ★ 112
schemagateschemagate 是一个面向 Text-to-SQL 场景的访问控制层，解决的是 LLM 生成 SQL 时容易越权读取敏感表的问题。传统做法是把整个数据库 ★ 106
InjectRangeInjectRange 是一个面向大模型提示注入（prompt injection）评测的防护测试框架，用 Python 编写，提供命令行工具。它内置了六个入侵★ 105
secure-ai-toolingsecure-ai-tooling 是 CoSAI（人工智能安全联盟）推出的风险图谱框架，旨在帮助团队识别、分析和缓解 AI 系统中的安全风险。传统软件安全实践★ 101
agentjailagentjail 是一个为编码智能体（如 Claude Code、Codex、Cursor）提供策略护栏的开源工具。它解决的核心问题是：AI 编程助手在自动执★ 99
vibevibe 是一个开源的 AI 驱动网页浏览器，允许用户使用自己的 LLM API 密钥进行智能网页浏览。它旨在作为 Dia 或 Comet 的替代方案，解决传统★ 95
agent-skillsagent-skills 是一个为 Claude Code、Codex CLI 和 Antigravity CLI 等 AI 编程助手提供 124 个专业技能的★ 94
rampartrampart 是一个面向 AI 智能体的开源防火墙，采用 Go 语言开发。它通过策略引擎审计和控制 OpenClaw、Claude Code、Cursor、C★ 92
awesome-security-for-ai这是一个精选列表，收录了用于保护AI系统安全的产品与资源，涵盖开源和商业方案，并附带一张采用CC-BY-SA-4.0许可的信息图。项目旨在帮助安全工程师、AI开★ 91
TakoVMTakoVM 是一个为 AI 智能体设计的沙箱文件系统，让智能体能够安全地执行代码。它解决了当前 AI 智能体在执行代码时面临的安全隔离问题，防止恶意或错误代码★ 90
DocSentinelDocSentinel 是一个面向网络安全领域的 MCP 服务器，专为 AI 智能体设计，用于自动化评估文档、问卷和报告。它解决安全团队在人工审阅合规文档时效率★ 88
agent-sweepagent-sweep 是一个专门用于扫描和脱敏 AI 编程助手（如 Claude Code）历史记录中的敏感信息的开源工具。它解决的是开发者在使用 AI 编码★ 86
openclaw-reference-setup这是一个面向生产环境的 OpenClaw 个人助理部署配置方案。它解决了个人 AI 助理从原型到稳定运行之间的工程化问题，提供了安全加固、15 个以上自定义工具★ 85
halo-recordhalo-record 是一个为 AI 智能体提供防篡改运行时证据的 Python 库。它通过哈希链技术生成不可篡改的运行时记录，确保 AI 代理的每次操作（如★ 84
ShibaClawShibaClaw 是一个自托管的、安全优先的 AI 智能体框架，旨在解决用户对数据隐私和可控性的需求。它支持 28 个 AI 提供商和 11 种聊天渠道，提供★ 84
awesome-agentic-devops这是一个精选并评分的 DevOps 智能体资源列表，聚焦于官方 MCP 服务器和智能体，覆盖 DevOps、云、SRE 和平台工程领域。项目为每个条目提供生产访★ 82
VelLMes-AI-Deception-FrameworkVelLMes 是一个构建交互式、动态且逼真的 LLM 蜜罐的开源框架，旨在通过部署伪装成真实 AI 服务的诱饵模型来吸引和诱捕恶意攻击者。它解决了传统蜜罐难以★ 80
tensor-trusttensor-trust 是一个用于收集鲁棒机器学习研究数据的提示注入游戏。它通过游戏化的方式，让用户与AI模型进行对抗性交互，尝试通过精心设计的提示词来绕过模★ 80
Rickrolling-the-Artist这是一个针对文本引导图像生成模型（如Stable Diffusion）的后门攻击研究项目，源自ICCV 2023论文。它解决了生成模型被恶意篡改的安全问题：攻击★ 63
subdosecSubdosec 是一款专注于子域名接管漏洞检测的开源扫描器，主打高速度和零误报。它通过精确匹配指纹库，判断目标子域名是否存在被接管风险，并附带一个公开的易受攻★ 63
stable-diffusion-webui-auto-tls-httpsstable-diffusion-webui-auto-tls-https 是一个为 AUTOMATIC1111 的 Stable Diffusion WebU★ 61
BurpMCPBurpMCP 是一个 Burp Suite 扩展，它将 MCP（模型上下文协议）服务器集成到 Burp Suite 中，使 AI 助手（如 ChatGPT、C★ 57
safe-openclawsafe-openclaw 是一个基于 OpenClaw 的安全加固版本，主要解决 AI 代理在无人值守运行时面临的安全风险。它通过引入认证网关、AES-256★ 55