ai-security 第 1 页
本站收录 98 个带「ai-security」标签的 AI 开源项目(按 GitHub 星标从高到低,第 1 / 2 页)
codex-securitycodex-security 是 OpenAI 推出的安全扫描命令行工具与 TypeScript SDK,面向应用安全与 DevSecOps 场景。它利用 Co★ 13,582
AiSOCAiSOC 是一个开源的 AI 安全运营中心,面向蓝队和安全运营团队,解决告警过载、人工研判慢、调查过程不可追溯的痛点。它把多源告警做融合去重,再用基于 Lan★ 7,692
AI-Infra-GuardAI-Infra-Guard 是一个全栈 AI 红队测试平台,旨在系统性评估和加固 AI 生态系统的安全性。它解决了 AI 应用从模型、代理、技能到基础设施各层★ 7,511
claude-code-ultimate-guide这是一个关于Claude Code的综合性指南项目,旨在帮助开发者全面掌握Anthropic推出的AI编程助手Claude Code。项目解决了Claude C★ 6,444
giskard-ossGiskard 是一个面向 LLM 智能体和应用的自动化评估与测试开源库。它解决了大模型应用上线前缺乏系统性质量保障的问题,提供从单元测试到红队攻击的全链路测试★ 5,952
Agentic-Bug-HunterAgentic-Bug-Hunter 是一个面向漏洞赏金(Bug Bounty)场景的 AI 自动化侦察与测试工具包,用 Python 编写,支持 Hacker★ 5,895
blaBLA(Blind LLM Agents)是一个用 TypeScript 编写的对抗性防御工具,专门用于对抗 AI 逆向工程代理(如 REA)对二进制文件、El★ 5,779
nononono 是一个用 Rust 编写的 AI 智能体沙箱工具,旨在让开发者以零配置、零延迟的方式运行任何 AI 智能体。它解决了 AI 智能体在代码执行、工具调用★ 4,989
PyRITPyRIT 是微软开源的生成式 AI 风险识别工具,面向安全工程师和红队人员,用于主动发现大模型与生成式 AI 系统中的安全风险。它解决的是 AI 应用上线前缺★ 4,856
lean-ctxAI 智能体的上下文智能层,单个本地 Rust 二进制即可决定代理能读取什么、记住什么、保护什么,并证明节省了什么,可将 Token 消耗降低 60%–90%。★ 3,951
CyberStrikeCyberStrike 是一个开源的 AI 增强型攻击性安全测试平台,旨在将大语言模型(LLM)能力与自动化渗透测试相结合,帮助安全团队高效执行红队演练。它内置★ 3,580
pentest-ai-agentspentest-ai-agents 是一个将 Claude Code 转变为进攻性安全研究助手的开源项目。它通过一系列专门化的 AI 子代理,帮助安全测试人员在★ 2,445
awesome-ai-coding-tools这是一个精选AI编程工具的资源列表,旨在帮助开发者发现和比较各种AI驱动的编码辅助工具。项目解决了AI编程工具信息分散、选择困难的问题,通过分类整理,将工具按代★ 2,289
ADRADR 是一个面向企业级 AI 智能体的安全防护框架,由 Uber 部署并开源。它解决的核心问题是:随着 AI Agent 在企业中承担越来越多的自动化任务,其★ 2,135
aktoAkto 是一个面向企业团队的 AI 安全测试与治理平台,专注于保护 AI 代理、MCP 服务、LLM 应用及生成式 AI 系统。它解决的核心问题是 AI 应用★ 1,548
NeuroSploitNeuroSploit 是一个基于 Rust 构建的 AI 驱动的渗透测试框架,旨在自动化并增强进攻性安全操作。它利用 AI 智能体来规划和执行渗透测试任务,覆★ 1,533
xalgorixxalgorix 是一个基于 Go 和 TypeScript 构建的自主 AI 渗透测试代理框架,旨在自动化安全评估流程。它能够实时进行侦察、漏洞检测和利用编排★ 1,355
HackGptHackGpt 是一个面向企业安全团队的生产级、云原生 AI 渗透测试平台。它把大模型、机器学习、微服务架构与安全测试框架整合在一起,目标是让安全团队用更少的人★ 1,311
promptmappromptmap 是一款针对自定义 LLM 应用的安全扫描器,帮助开发者在部署前发现提示注入等安全漏洞。它通过自动化生成恶意提示模板,对应用进行黑盒测试,模拟★ 1,296
attackgenAttackGen 是一个面向网络安全应急响应测试的开源工具,它把大语言模型与 MITRE ATT&CK 框架结合起来,帮助安全团队快速生成贴近真实攻击手法的演★ 1,275
Dark-MoonDark-Moon 是一个自主 AI 渗透测试引擎,旨在持续对 Web、云、身份、CI/CD、IaC、数据库、Active Directory、Kubernet★ 1,238
stride-gptstride-gpt 是一个基于 OpenAI GPT 模型的 AI 威胁建模工具,面向安全工程师、架构师和开发团队。它解决的核心问题是传统威胁建模高度依赖专家★ 1,157
hol-guardhol-guard 是一个面向 AI 智能体的开源防病毒工具,旨在解决 AI 代理在运行时面临的多类安全威胁。它能够实时拦截高风险工具调用、敏感凭据访问、提示注★ 1,107
agentic-radaragentic-radar 是一个面向 LLM 智能体工作流的安全扫描器,用 Python 编写并提供 CLI。它要解决的问题是:当开发者用 LangGraph★ 1,070
pentestcodePentestCode 是一个基于多智能体架构的 AI 渗透测试系统,旨在自动化渗透测试流程。它解决了传统渗透测试依赖人工经验、耗时长且难以并行的问题。系统通过★ 1,051
pipelockpipelock 是一个开源的 AI 智能体防火墙,专注于 MCP(模型上下文协议)安全和智能体出口流量管控。它解决了 AI 智能体在调用外部工具和服务时面临的★ 994
h5ih5i 是一个面向编程代理(coding agents)的集成沙箱环境,用 Rust 编写。它解决了 AI 编程代理在开发过程中需要隔离、可复现的运行环境的问题★ 925
numasecnumasec 是一个面向网络安全领域的 AI 智能体,以命令行工具(CLI)和 MCP(模型上下文协议)工具的形式提供能力。它旨在将大语言模型(LLM)与安全★ 839
arcjet-jsArcjet 是一个面向 AI 应用和智能体的运行时安全库,专为 JavaScript/TypeScript 生态设计。它解决的核心问题是 AI 应用在交互过程★ 701
AdrianAdrian 是一个开源的 AI 智能体安全运行时工具,专门用于监控和控制 AI 智能体的行为。它解决的是智能体在执行任务时可能出现的恶意工具调用、提示注入攻击★ 594
agent-opforagent-opfor 是一个开源的 AI 智能体对抗模拟工具,专注于对 AI 智能体和 MCP 服务器进行红队测试。它解决了 AI 应用在部署前缺乏系统性安全★ 585
emilia-protocolEMILIA Gate 是一个为 AI 智能体打造的“后果防火墙”,在智能体执行涉及金钱、代码、权限、基础设施或受监管状态变更等高风险操作前,强制进行精确的权限★ 550
agent-skills-hubagent-skills-hub 是一个开源项目,旨在帮助开发者发现和比较开源的 Agent Skills、工具和 MCP 服务器。它通过自动化的 GitHub★ 501
prismorprismor 是一个自托管的 AI 智能体运行时控制平面,专注于在工具调用执行前提供安全防护。它解决了 AI 代理在自主执行过程中可能引发的安全问题,如秘密泄★ 493
awesome-MLSecOpsawesome-MLSecOps 是一个精选的 MLSecOps(机器学习安全运营)工具与资源清单,旨在帮助安全工程师、ML 工程师和 AI 团队系统性地保障机★ 492
AgentHoundAgentHound 是一个针对 AI 智能体基础设施的进攻性安全框架,旨在解决 AI 代理、MCP 服务、A2A 协议及 AI 网关等新型攻击面缺乏系统化安全★ 464
Awesome-Offensive-AI-Agentic-Landscape这是一个面向 AI 攻防安全领域的资源汇总清单,系统整理了开源项目、学术论文、能力基准测试以及国内外商业方案,覆盖 AI 渗透测试、大模型红队测试、自主攻击型智★ 463
SponsioSponsio 是一个面向概率性 AI 智能体的确定性安全解决方案框架。它通过为智能体提供可验证的安全护栏、运行时监控和技能沙箱,解决大模型输出不可控、工具调用★ 455
asqav-sdkasqav-sdk 是一个为 AI 智能体行为提供可验证证据的 Python 和 TypeScript SDK。它解决的核心问题是:当 AI 智能体自主执行操作★ 449
agentsealAgentSeal 是一个面向 AI 智能体的安全工具包,主要解决 AI Agent 在运行时面临的安全风险,包括恶意技能、MCP 配置漏洞、供应链攻击、提示注★ 385
LLMVaultLLMVault 是一个专为 AI 安全设计的开源训练平台,基于 OWASP LLM Top 10 标准构建,帮助安全工程师、开发者和研究人员学习并实践大语言模★ 356
getIPIntelgetIPIntel 是一个基于 PHP 的免费 IP 情报查询 API,主要用来识别并拦截代理、VPN、TOR 节点、Web 主机 IP 以及被入侵的受控主机★ 334
skillskill 是一套面向软件安全评估的 Python 工具与技能集合,主要服务于自有或已获授权系统的分析工作。它把源码结构还原、安全审查、依赖检查与修复计划生成整★ 328
augustusAugustus 是一个用 Go 编写的 LLM 安全测试框架,专门用于检测提示注入、越狱和对抗性攻击。它把常见的大模型安全风险抽象成 190 多个探针(pro★ 323
tapestryTapestry 是一个旨在让每个国家和参与者拥有自己前沿 AI 的开源项目。它通过组建全球联盟,共同训练一个共享的前沿基础模型,各合作伙伴基于此构建并拥有符合★ 305
AIGoatAIGoat 是一个开源 AI 安全演练场,面向大模型红队测试与安全学习。它把提示词注入、RAG 数据投毒、AI Agent 越权、MCP 安全以及 OWASP★ 302
SecurityClawSecurityClaw 是一个基于技能模块的自主安全运营中心(SOC)智能体,专为安全团队设计,用于自动化威胁监测与响应。它从 OpenSearch/Elas★ 280
dodoguardDodoGuard 是一个面向 AI Agent 全生命周期的开源安全防护工具,用 TypeScript 编写,主要解决 Dify、Coze、FastGPT、n★ 275
awesome-ai-anatomy这是一个对15个AI编程智能体进行源码拆解的开源项目,包括Claude Code、Dify、OpenHands、Cline等主流工具。项目通过架构图和设计模式分★ 262
juliusJulius 是一个用 Go 编写的 LLM 服务识别工具,核心功能是把一个 IP:Port 快速翻译成具体的 AI 服务类型,例如 Ollama、vLLM、L★ 256