security
本站收录 137 个带「security」标签的 AI 开源项目（按 GitHub 星标从高到低，此处展示前 50 个）
cs-video-courses这是一个精心整理的计算机科学视频课程清单，收录了全球顶尖大学和机构的免费视频讲座，涵盖算法、人工智能、系统、理论、生物信息学、计算物理等广泛领域。项目解决了计算★ 83,580
quivrOpinionated RAG 框架，用于把生成式 AI 快速集成进你的应用。你只需专注产品本身，无需从零搭建 RAG：支持任意 LLM（GPT4、Groq、L★ 39,566
quivrquivr 是一个主打“专注产品而非 RAG”的开源框架，用于将生成式 AI 快速集成到现有应用中。它解决了开发者在构建 RAG（检索增强生成）应用时面临的复杂★ 39,566
Anthropic-Cybersecurity-Skills这是一个为AI智能体提供结构化网络安全技能的开源项目，包含817个技能，覆盖29个安全领域，并映射到MITRE ATT&CK、NIST CSF 2.0、MITR★ 33,568
gitleaksGitleaks 是一个用 Go 编写的开源密钥扫描工具，专门用于检测 Git 仓库中的敏感信息泄露，如密码、API 密钥、令牌等。它解决的是开发者在代码提交过★ 29,556
DB-GPTDB-GPT 是一个开源的智能体 AI 数据助手，旨在将大语言模型与数据管理、分析场景深度结合，解决传统数据工具交互复杂、门槛高的问题。它提供自然语言转 SQL★ 20,067
lamdalamda 是一个面向 Android 的全栈设备控制平台，用 Python 编写，目标是把远程桌面、自动化操作、安全测试和网络组网能力整合到一套系统里。它通过★ 8,493
superagentSuperagent 是一个专注于 AI 应用安全的开源库，主要解决提示注入、数据泄露和有害输出等安全问题。它提供轻量级 SDK，可嵌入现有 AI 应用，通过检★ 6,757
AI-Infra-GuardAI-Infra-Guard 是一个全栈 AI 红队测试平台，旨在系统性评估和加固 AI 生态系统的安全性。它解决了 AI 应用从模型、代理、技能到基础设施各层★ 6,636
osmedeusosmedeus 是一个用 Go 编写的现代化安全编排引擎，旨在自动化执行漏洞扫描和攻击面管理流程。它通过工作流（Workflow）的概念，将信息收集、端口扫描★ 6,587
agent-governance-toolkit这是一个面向AI智能体的治理工具包，旨在解决自主AI代理在运行时缺乏安全管控和合规能力的问题。它围绕策略执行、零信任身份验证、执行沙箱和可靠性工程四大核心模块构★ 6,362
ciso-assistant-communityCISO Assistant 是一个一站式 GRC（治理、风险与合规）平台，旨在帮助安全团队和合规人员高效管理风险、应用安全、合规审计、第三方风险管理（TPRM★ 4,464
nononono 是一个用 Rust 编写的 AI 智能体沙箱工具，旨在让开发者以零配置、零延迟的方式运行任何 AI 智能体。它解决了 AI 智能体在代码执行、工具调用★ 4,270
tracecatTracecat 是一个面向安全团队和 AI 代理的开源安全自动化平台。它旨在解决安全运营中告警疲劳、响应迟缓、手动操作繁琐等问题，通过将安全编排、自动化和响应★ 3,820
agent-scanagent-scan 是一款面向 AI Agent 生态的安全扫描器，主要针对 AI 智能体、MCP（Model Context Protocol）服务器以及 ★ 3,099
CyberStrikeCyberStrike 是一个开源的 AI 增强型攻击性安全测试平台，旨在将大语言模型（LLM）能力与自动化渗透测试相结合，帮助安全团队高效执行红队演练。它内置★ 2,900
vulnhuntrvulnhuntr 是一个利用大型语言模型进行零样本漏洞发现的开源工具。它解决的是传统静态分析工具依赖规则和模式匹配、难以发现未知漏洞的问题。核心能力是直接对代★ 2,785
boxliteboxlite 是一个专为 AI 智能体设计的微型虚拟机，用 Rust 编写，体积小到可以嵌入笔记本电脑，同时具备弹性伸缩能力以支撑云端智能体集群。它解决了 A★ 2,357
beelzebubbeelzebub 是一个基于 Go 语言开发的安全低代码欺骗运行时框架，利用 AI 技术实现系统虚拟化。它旨在解决传统蜜罐系统部署复杂、难以模拟真实系统环境的★ 2,188
DevDocsDevDocs 是一个完全免费、注重隐私的基于 UI 的技术文档 MCP 服务器，专为程序员和软件开发者设计。它解决了开发者在编码时频繁切换 IDE 和浏览器查★ 2,107
agent-safehouseagent-safehouse 是一个用 Shell 编写的轻量级沙箱工具，专门用于限制本地 AI 代理（如 Claude、OpenAI 等）的文件系统访问权限★ 2,086
Awesome-LM-SSPAwesome-LM-SSP 是一个聚焦大模型安全、隐私与可信度的精选阅读清单，收录了相关论文、工具、数据集和攻击防御方法。它系统梳理了提示注入、越狱攻击、隐私★ 2,081
graph-fraud-detection-papers这是一个精选的图神经网络与Transformer在欺诈检测、异常检测和离群点检测领域的论文与资源列表。项目系统整理了基于图结构（如GNN、Graph Trans★ 1,897
greenmaskGreenmask 是一个用 Go 编写的数据库匿名化与测试数据管理工具，主要面向 PostgreSQL 和 MySQL。它解决了开发、测试环境中使用真实数据带★ 1,772
agent-beaconagent-beacon 是一个用 Go 编写的跨框架、可自我进化的 AI 智能体内存层。它解决的核心问题是：不同 AI 编程助手（如 Claude Code、★ 1,718
awesome-llm-securityawesome-llm-security 是一个精选列表，汇集了关于大语言模型（LLM）安全领域的优秀工具、文档和项目。它旨在解决 LLM 应用日益增长的安全问★ 1,708
OpenOSINTOpenOSINT 是一个基于大语言模型的 OSINT（开源情报）智能体，提供交互式 REPL、MCP 服务器和 CLI 三种使用方式，内置 19 个情报收集工★ 1,676
Awesome-Jailbreak-on-LLMs这是一个聚焦大语言模型越狱攻击方法的精选资源库，系统整理了学术界和工业界关于LLM安全漏洞的最新研究。项目收集了论文、代码、数据集、评估工具和分析报告，覆盖从提★ 1,659
DataProfilerDataProfiler 是一个开源的数据分析工具，用于快速提取数据集的模式（schema）、统计信息和实体标签。它解决的核心问题是帮助数据科学家和工程师在拿到★ 1,591
FuzzyAIFuzzyAI 是一个自动化的大语言模型模糊测试工具，旨在帮助开发者和安全研究人员发现并缓解其 LLM API 中的潜在越狱漏洞。它通过生成大量恶意或边界输入，★ 1,580
cc-safety-netcc-safety-net 是一个面向 AI 编码代理的安全防护工具，以 CLI 钩子形式在危险命令执行前进行拦截，防止 AI 代理误删代码、访问敏感文件或执行★ 1,566
awesome-ai-security-tools这是一个面向 AI 安全与 AI 辅助网络安全的精选工具清单，把公开源码、学术研究和商业产品按用途分类整理。它解决的核心问题是：AI 安全领域工具散落、命名混乱★ 1,556
rebuffRebuff 是一个专注于检测和防御大语言模型提示注入攻击的开源工具。它解决的是 LLM 应用面临的安全问题，即恶意用户通过精心构造的输入提示，诱导模型执行非预★ 1,525
burp-ai-agentburp-ai-agent 是一个 Burp Suite 扩展，为安全测试人员提供内置的 MCP（模型上下文协议）工具集成和 AI 辅助分析能力。它解决了渗透测★ 1,517
oss-fuzz-genoss-fuzz-gen 是一个利用大语言模型（LLM）自动生成模糊测试用例的开源工具，基于 OSS-Fuzz 生态构建。它解决的是安全测试中模糊测试用例编写门★ 1,441
Awesome-LLMs-for-Vulnerability-Detection这是一个持续更新的开源索引，专门收录大语言模型（LLM）在软件漏洞检测领域的研究成果。项目按函数级、仓库级、智能体驱动和智能合约检测等维度分类整理了论文，并汇总★ 1,427
agentshieldagentshield 是一个针对 AI 智能体（Agent）的安全扫描工具，旨在检测智能体配置、MCP 服务器和工具权限中的潜在漏洞。它解决了随着 AI Ag★ 1,237
xalgorixxalgorix 是一个基于 Go 和 TypeScript 构建的自主 AI 渗透测试代理框架，旨在自动化安全评估流程。它能够实时进行侦察、漏洞检测和利用编排★ 1,145
openloomiOpenLoomi 是一个开源的 AI 同事（Attention Agent），用 TypeScript 编写。它通过连接你日常使用的办公工具（如 Gmail ★ 1,033
consoleConsole 是一个面向团队和 AI 代理的密钥管理工具，用 TypeScript 编写。它要解决的问题是：在多人协作和 AI 编码代理（如 Claude C★ 924
pipelockpipelock 是一个开源的 AI 智能体防火墙，专注于 MCP（模型上下文协议）安全和智能体出口流量管控。它解决了 AI 智能体在调用外部工具和服务时面临的★ 913
pocketpawpocketpaw 是一个自托管的开源个人 AI 助手，主打 30 秒快速部署，无需像其他框架那样花费数小时配置。它提供桌面安装包，内置多智能体“指挥中心”（D★ 886
agentdojoagentdojo 是一个用于评估 LLM 智能体攻击与防御的动态环境。它解决的核心问题是：随着 LLM 智能体被赋予调用外部工具和访问敏感数据的权限，针对这些★ 881
curriculumEnki 是一个面向开发者的 AI 学习助手，其课程仓库（curriculum）是 Enki 应用的开源课程内容库，包含计算机科学、数据科学、AI、区块链、前端★ 831
hoopHoop 是一个用 Go 编写的统一网关，部署在各类协议前端，为 MCP、LLM、数据库和容器等不同后端提供一致的安全策略。它解决的核心问题是：当企业内部同时接★ 823
codegateCodeGate 是一个面向 AI 智能体框架的安全与工作区管理网关。它解决的核心问题是：当多个 AI 代理或编码助手（如 Claude Code、Codex ★ 791
pasteguardpasteguard 是一个本地优先的隐私代理工具，专为浏览器聊天、AI API 和编码代理设计。它解决的核心问题是：当用户向 AI 工具（如 ChatGPT、★ 758
code-on-incuscode-on-incus 是一个为 AI 编程代理提供隔离运行环境的开源工具。它利用 Incus 系统容器，为每个 AI 代理分配独立的机器，赋予其 root★ 732
ps-fuzzps-fuzz 是一个面向生成式 AI 应用的安全测试与加固工具，核心目标是帮助开发者检测并强化系统提示词（system prompt）的安全边界。它通过自动化★ 713
maggyMaggy 最初是一套个人化的 Claude Code 配置工具，现已演进为自主 AI 工程指挥中心。它面向使用 Claude Code 的开发者，解决 AI ★ 707