ai-security
本站收录 80 个带「ai-security」标签的 AI 开源项目（按 GitHub 星标从高到低，此处展示前 50 个）
AI-Infra-GuardAI-Infra-Guard 是一个全栈 AI 红队测试平台，旨在系统性评估和加固 AI 生态系统的安全性。它解决了 AI 应用从模型、代理、技能到基础设施各层★ 6,636
claude-code-ultimate-guide这是一个关于Claude Code的综合性指南项目，旨在帮助开发者全面掌握Anthropic推出的AI编程助手Claude Code。项目解决了Claude C★ 6,066
giskard-ossGiskard 是一个面向 LLM 智能体和应用的自动化评估与测试开源库。它解决了大模型应用上线前缺乏系统性质量保障的问题，提供从单元测试到红队攻击的全链路测试★ 5,846
nononono 是一个用 Rust 编写的 AI 智能体沙箱工具，旨在让开发者以零配置、零延迟的方式运行任何 AI 智能体。它解决了 AI 智能体在代码执行、工具调用★ 4,270
CyberStrikeCyberStrike 是一个开源的 AI 增强型攻击性安全测试平台，旨在将大语言模型（LLM）能力与自动化渗透测试相结合，帮助安全团队高效执行红队演练。它内置★ 2,900
pentest-ai-agentspentest-ai-agents 是一个将 Claude Code 转变为进攻性安全研究助手的开源项目。它通过一系列专门化的 AI 子代理，帮助安全测试人员在★ 2,298
awesome-ai-coding-tools这是一个精选AI编程工具的资源列表，旨在帮助开发者发现和比较各种AI驱动的编码辅助工具。项目解决了AI编程工具信息分散、选择困难的问题，通过分类整理，将工具按代★ 2,117
ADRADR 是一个面向企业级 AI 智能体的安全防护框架，由 Uber 部署并开源。它解决的核心问题是：随着 AI Agent 在企业中承担越来越多的自动化任务，其★ 1,614
aktoAkto 是一个面向企业团队的 AI 安全测试与治理平台，专注于保护 AI 代理、MCP 服务、LLM 应用及生成式 AI 系统。它解决的核心问题是 AI 应用★ 1,521
NeuroSploitNeuroSploit 是一个基于 Rust 构建的 AI 驱动的渗透测试框架，旨在自动化并增强进攻性安全操作。它利用 AI 智能体来规划和执行渗透测试任务，覆★ 1,398
promptmappromptmap 是一款针对自定义 LLM 应用的安全扫描器，帮助开发者在部署前发现提示注入等安全漏洞。它通过自动化生成恶意提示模板，对应用进行黑盒测试，模拟★ 1,276
attackgenAttackGen 是一个面向网络安全应急响应测试的开源工具，它把大语言模型与 MITRE ATT&CK 框架结合起来，帮助安全团队快速生成贴近真实攻击手法的演★ 1,245
xalgorixxalgorix 是一个基于 Go 和 TypeScript 构建的自主 AI 渗透测试代理框架，旨在自动化安全评估流程。它能够实时进行侦察、漏洞检测和利用编排★ 1,145
stride-gptstride-gpt 是一个基于 OpenAI GPT 模型的 AI 威胁建模工具，面向安全工程师、架构师和开发团队。它解决的核心问题是传统威胁建模高度依赖专家★ 1,135
Dark-MoonDark-Moon 是一个自主 AI 渗透测试引擎，旨在持续对 Web、云、身份、CI/CD、IaC、数据库、Active Directory、Kubernet★ 981
pipelockpipelock 是一个开源的 AI 智能体防火墙，专注于 MCP（模型上下文协议）安全和智能体出口流量管控。它解决了 AI 智能体在调用外部工具和服务时面临的★ 913
numasecnumasec 是一个面向网络安全领域的 AI 智能体，以命令行工具（CLI）和 MCP（模型上下文协议）工具的形式提供能力。它旨在将大语言模型（LLM）与安全★ 801
pentestcodePentestCode 是一个基于多智能体架构的 AI 渗透测试系统，旨在自动化渗透测试流程。它解决了传统渗透测试依赖人工经验、耗时长且难以并行的问题。系统通过★ 719
arcjet-jsArcjet 是一个面向 AI 应用和智能体的运行时安全库，专为 JavaScript/TypeScript 生态设计。它解决的核心问题是 AI 应用在交互过程★ 684
hol-guardhol-guard 是一个面向 AI 智能体的开源防病毒工具，旨在解决 AI 代理在运行时面临的多类安全威胁。它能够实时拦截高风险工具调用、敏感凭据访问、提示注★ 681
h5ih5i 是一个面向编程代理（coding agents）的集成沙箱环境，用 Rust 编写。它解决了 AI 编程代理在开发过程中需要隔离、可复现的运行环境的问题★ 665
emilia-protocolEMILIA Gate 是一个为 AI 智能体打造的“后果防火墙”，在智能体执行涉及金钱、代码、权限、基础设施或受监管状态变更等高风险操作前，强制进行精确的权限★ 617
asqav-sdkasqav-sdk 是一个为 AI 智能体行为提供可验证证据的 Python 和 TypeScript SDK。它解决的核心问题是：当 AI 智能体自主执行操作★ 591
agent-opforagent-opfor 是一个开源的 AI 智能体对抗模拟工具，专注于对 AI 智能体和 MCP 服务器进行红队测试。它解决了 AI 应用在部署前缺乏系统性安全★ 582
AdrianAdrian 是一个开源的 AI 智能体安全运行时工具，专门用于监控和控制 AI 智能体的行为。它解决的是智能体在执行任务时可能出现的恶意工具调用、提示注入攻击★ 577
awesome-MLSecOpsawesome-MLSecOps 是一个精选的 MLSecOps（机器学习安全运营）工具与资源清单，旨在帮助安全工程师、ML 工程师和 AI 团队系统性地保障机★ 473
SponsioSponsio 是一个面向概率性 AI 智能体的确定性安全解决方案框架。它通过为智能体提供可验证的安全护栏、运行时监控和技能沙箱，解决大模型输出不可控、工具调用★ 441
AgentHoundAgentHound 是一个针对 AI 智能体基础设施的进攻性安全框架，旨在解决 AI 代理、MCP 服务、A2A 协议及 AI 网关等新型攻击面缺乏系统化安全★ 441
agent-skills-hubagent-skills-hub 是一个开源项目，旨在帮助开发者发现和比较开源的 Agent Skills、工具和 MCP 服务器。它通过自动化的 GitHub★ 396
prismorprismor 是一个自托管的 AI 智能体运行时控制平面，专注于在工具调用执行前提供安全防护。它解决了 AI 代理在自主执行过程中可能引发的安全问题，如秘密泄★ 379
agentsealAgentSeal 是一个面向 AI 智能体的安全工具包，主要解决 AI Agent 在运行时面临的安全风险，包括恶意技能、MCP 配置漏洞、供应链攻击、提示注★ 377
BugTraceAIBugTraceAI 是一个自主 AI 驱动的安全扫描平台，面向渗透测试、漏洞赏金和安全研究场景。它把 AI 智能体引入漏洞发现流程，提供命令行扫描器、Web ★ 335
LLMVaultLLMVault 是一个专为 AI 安全设计的开源训练平台，基于 OWASP LLM Top 10 标准构建，帮助安全工程师、开发者和研究人员学习并实践大语言模★ 326
Awesome-Offensive-AI-Agentic-Landscape这是一个面向 AI 攻防安全领域的资源汇总清单，系统整理了开源项目、学术论文、能力基准测试以及国内外商业方案，覆盖 AI 渗透测试、大模型红队测试、自主攻击型智★ 311
tapestryTapestry 是一个旨在让每个国家和参与者拥有自己前沿 AI 的开源项目。它通过组建全球联盟，共同训练一个共享的前沿基础模型，各合作伙伴基于此构建并拥有符合★ 277
SecurityClawSecurityClaw 是一个基于技能模块的自主安全运营中心（SOC）智能体，专为安全团队设计，用于自动化威胁监测与响应。它从 OpenSearch/Elas★ 272
awesome-ai-anatomy这是一个对15个AI编程智能体进行源码拆解的开源项目，包括Claude Code、Dify、OpenHands、Cline等主流工具。项目通过架构图和设计模式分★ 246
agent-auditagent-audit 是一个针对 LLM 智能体的静态安全扫描工具，主要解决 AI Agent 应用中的安全漏洞问题，如提示注入、MCP 配置错误和污点分析。★ 233
llamatorllamator 是一个用于测试聊天机器人和生成式 AI 系统的红队（Red Teaming）Python 框架。它主要解决 LLM 应用在安全性和可靠性方面的★ 223
node9-proxynode9-proxy 是一个面向 AI Agent 时代的执行安全层，为自主 AI 代理提供确定性的“Sudo”治理和审计日志。它解决的是当前 LLM 代理在★ 216
sec-afsec-af 是一个基于 AgentField 的 AI 原生代码安全审计工具，旨在自动化发现并证明代码漏洞的可利用性。它通过智能体自主分析代码库，生成包含明确★ 199
phantasmphantasm 是一套用于构建“人在回路”审批层的工具包，旨在实时监控和引导 AI 代理的工作流程。它解决了 AI 代理在自动化执行任务时缺乏人工监督和干预的★ 196
www-project-agent-memory-guardAgent Memory Guard 是 OWASP 基金会下的一个开源项目，专注于解决 AI 智能体（Agent）的记忆安全问题。随着大语言模型（LLM）驱动★ 183
agentsecretsagentsecrets 是一个面向 AI 代理的零知识凭证基础设施，旨在让代理不仅能消费凭证，还能安全地操作它们。它解决了 AI 代理在自主执行任务时面临的凭★ 181
prompt-guardprompt-guard 是一个面向 AI 智能体的高级提示注入防御系统，旨在解决大语言模型应用面临的提示注入攻击问题。它提供多语言检测能力，能够识别多种语言的★ 178
awesome-cyber-ai-arsenal这是一个精选的开源工具清单，汇集了进攻性安全、防御性安全以及AI/LLM安全相关的资源。它旨在解决安全从业者在AI时代工具分散、信息过载的问题，通过分类整理，帮★ 174
vLLM-HookvLLM-Hook 是一个针对 vLLM 推理引擎的插件，允许开发者编程访问和修改模型在推理过程中的内部状态。它解决了 vLLM 默认黑盒推理、难以干预中间层输★ 162
humanboundHumanbound 是一个开源的对抗性测试引擎，为 AI 智能体提供 SDK 和命令行工具，用于发现和修复智能体中的安全漏洞与逻辑缺陷。它解决的核心问题是：A★ 161
Awesome-LLMSecOpsAwesome-LLMSecOps 是一个专注于大语言模型（LLM）与智能体（Agent）安全运营的精选资源列表。它系统性地整理了 LLM 安全领域的威胁建模、★ 161
agentic-ai这是一个精选的智能体AI资源列表，汇集了跨24个领域的研究论文、基准测试、框架和工具。项目旨在为开发者、研究者和爱好者提供一个系统化的入口，帮助他们快速了解智能★ 159