ai-security 第 2 页
本站收录 86 个带「ai-security」标签的 AI 开源项目（按 GitHub 星标从高到低，第 2 / 2 页）
www-project-agent-memory-guardAgent Memory Guard 是 OWASP 基金会下的一个开源项目，专注于解决 AI 智能体（Agent）的记忆安全问题。随着大语言模型（LLM）驱动★ 189
prompt-guardprompt-guard 是一个面向 AI 智能体的高级提示注入防御系统，旨在解决大语言模型应用面临的提示注入攻击问题。它提供多语言检测能力，能够识别多种语言的★ 180
awesome-cyber-ai-arsenal这是一个精选的开源工具清单，汇集了进攻性安全、防御性安全以及AI/LLM安全相关的资源。它旨在解决安全从业者在AI时代工具分散、信息过载的问题，通过分类整理，帮★ 180
agentic-ai这是一个精选的智能体AI资源列表，汇集了跨24个领域的研究论文、基准测试、框架和工具。项目旨在为开发者、研究者和爱好者提供一个系统化的入口，帮助他们快速了解智能★ 172
Awesome-LLMSecOpsAwesome-LLMSecOps 是一个专注于大语言模型（LLM）与智能体（Agent）安全运营的精选资源列表。它系统性地整理了 LLM 安全领域的威胁建模、★ 166
vLLM-HookvLLM-Hook 是一个针对 vLLM 推理引擎的插件，允许开发者编程访问和修改模型在推理过程中的内部状态。它解决了 vLLM 默认黑盒推理、难以干预中间层输★ 165
AegisAegis 是一个面向 AI 智能体的开源端点检测与响应（EDR）工具，专门监控自主 AI 代理的进程、文件、网络和行为活动。它解决的是 AI 代理在无人监督环★ 157
.context.context 是一个面向安全审计场景的 AI Agent 技能包，旨在帮助安全工程师和开发者自动生成分类分级、行业级的审计报告。它解决了传统安全审计中人工整★ 153
ai-safe2-frameworkAI SAFE² 是一个面向智能体 AI、非人类身份（NHI）和 AI 集群（Swarm）的治理、风险与合规（GRC）操作系统，同时集成了安全能力。它试图解决 ★ 148
open-biasopen-bias 是一个开源的策略执行代理（policy enforcement proxy），定位为 AI 代理的“防火墙”与护栏层。它解决的核心问题是：当★ 145
mcp-observatorymcp-observatory 是一个面向 MCP（模型上下文协议）服务器的 CI 原生安全测试工具。它解决了 AI 智能体在依赖 MCP 服务器前缺乏安全验证★ 142
context-bombscontext-bombs 是一个专注于 AI 安全与评测的开源项目，核心是提供一系列精心构造的“上下文炸弹”字符串，用于测试和评估 AI 系统在面临恶意或异常★ 142
shellwardshellward 是一个面向 AI 应用的合规与安全网关，旨在帮助开发者和企业快速识别并修复 AI 项目中的合规风险。它通过一行命令对项目进行静态体检，覆盖数★ 139
SafeGen_CCS2024SafeGen 是发表于 CCS 2024 的学术项目，旨在缓解文本到图像模型生成不安全内容的问题。它针对当前扩散模型在生成图像时可能产生暴力、色情等违规内容的★ 138
AI-SurfaceAI-Surface 是一个面向应用代码的 AI 攻击面发现与治理工具，核心思路是在代码提交（PR）阶段就识别出 AI 相关组件带来的安全风险。它通过静态扫描代★ 138
gensee-crategensee-crate 是一个用 Rust 编写的 AI 智能体安全运行工具，旨在为 Claude Code、Codex、Copilot 等 AI 编程助手提★ 125
guardian-sdkGuardian SDK 是 Ethicore Engine™ 的开源组件，一个专注于 AI 安全、伦理与合规的防护平台。它通过多层分析流水线，保护 AI 应用★ 123
PromptMePromptMe 是一个面向大语言模型安全的教育型开源项目，围绕 OWASP LLM Top 10 设计了 10 个动手挑战，帮助开发者和安全人员理解 LLM ★ 112
secure-ai-toolingsecure-ai-tooling 是 CoSAI（人工智能安全联盟）推出的风险图谱框架，旨在帮助团队识别、分析和缓解 AI 系统中的安全风险。传统软件安全实践★ 101
llm-gatewayllm-gateway 是一个零信任的 LLM 网关，提供 OpenAI 兼容的代理服务，支持语义路由和负载均衡，可对接 OpenAI、Anthropic、Ol★ 100
ClawdSecbotClawdSecbot 是一款面向 AI Bot 应用的专业安全防护工具，基于 Go 语言开发。它主要解决 AI 应用面临的提示词注入、恶意请求和异常行为等安全★ 94
rampartrampart 是一个面向 AI 智能体的开源防火墙，采用 Go 语言开发。它通过策略引擎审计和控制 OpenClaw、Claude Code、Cursor、C★ 92
ThreatswarmThreatswarm 是一个基于 Claude Code 插件的 AI 安全代理集群，包含 27 个作用域强制的 AI 代理，覆盖完整渗透测试杀伤链（侦察、利★ 89
VeritensorVeritensor 是一个针对 AI 供应链的安全静态分析工具，定位为“AI 制品杀毒软件”和“RAG 防火墙”。它主要解决 AI 开发中模型、数据集、笔记本★ 88
halo-recordhalo-record 是一个为 AI 智能体提供防篡改运行时证据的 Python 库。它通过哈希链技术生成不可篡改的运行时记录，确保 AI 代理的每次操作（如★ 84
deterministic-agent-control-protocol这是一个为AI智能体提供治理网关的开源项目，核心是给AI代理加上边界、审计和会话感知的控制能力。它通过MCP代理、Shell代理和HTTP API三种方式，让开★ 83
aisbomaisbom 是一个面向人工智能领域的软件物料清单（SBOM）工具，旨在为 AI 供应链提供透明度和可追溯性。它解决的核心问题是：随着 AI 模型和数据集在软件★ 83
awesome-ai-agents-security这是一个关于AI智能体安全的精选资源列表，旨在绘制AI代理安全生态系统的活地图。它系统整理了该领域的关键主题，包括自主代理、生成式AI、网络安全、护栏、越狱攻击★ 77
openclaw-superpowersopenclaw-superpowers 是一个为 OpenClaw 智能体框架设计的技能插件包，包含 44 个即插即用的技能模块，旨在增强自主智能体的能力。它★ 72
MachineAuthMachineAuth 是一个为 AI 代理提供认证与权限基础设施的开源项目，使用 Go 语言开发。它解决的核心问题是：当 AI 代理需要代表用户或组织访问外部★ 61
helm-ai-kernelhelm-ai-kernel 是一个面向 AI 智能体的执行防火墙，采用 Go 语言开发。它解决的核心问题是：当 AI 代理（如基于 MCP 的工具调用）执行操★ 60
clawseccheckclawseccheck 是一个针对 OpenClaw 智能体框架的本地只读安全扫描器。它主要解决 OpenClaw 用户在配置和运行智能体时面临的安全风险，包★ 58
llmtracellmtrace 是一个零代码的 LLM 安全与可观测性代理，专为 OpenAI 兼容 API 设计。它作为中间层，实时拦截并分析请求与响应，提供提示注入检测、★ 53
Ultimate-TypeScript-Real-World-AI-Projects这是一个收录了250多个真实世界TypeScript AI项目的开源合集，聚焦于工作流、智能体及多智能体系统的生产级架构实现，而非简单的聊天机器人演示。项目旨在★ 47
neurobuddy分布式 AI 人格系统概念方案：每个设备承载一个独特数字形象并共享语义记忆，灵感源自协作式、持续成长的 AI 伴侣愿景，探索多端联动的 AI 陪伴新形态。★ 4
AIMAOSAIMAOS 多智能体办公套件，专为小型办公室的机构管理与文档处理而设计，完全免费，可在小参数本地模型上流畅运行。代理可管理日程、构建并维护客户数据库与案件档案★ 1