security 第 1 页
本站收录 170 个带「security」标签的 AI 开源项目(按 GitHub 星标从高到低,第 1 / 4 页)
rearea 是一个用 TypeScript 编写的开源智能体工具,旨在通过 AI 智能体对任意目标进行逆向工程,覆盖从应用行为到原生二进制文件的多个层面。它解决了传★ 461,200
cs-video-courses这是一个精心整理的计算机科学视频课程清单,收录了全球顶尖大学和机构的免费视频讲座,涵盖算法、人工智能、系统、理论、生物信息学、计算物理等广泛领域。项目解决了计算★ 84,855
quivrOpinionated RAG 框架,用于把生成式 AI 快速集成进你的应用。你只需专注产品本身,无需从零搭建 RAG:支持任意 LLM(GPT4、Groq、L★ 39,650
quivrquivr 是一个主打“专注产品而非 RAG”的开源框架,用于将生成式 AI 快速集成到现有应用中。它解决了开发者在构建 RAG(检索增强生成)应用时面临的复杂★ 39,650
Anthropic-Cybersecurity-Skills这是一个为AI智能体提供结构化网络安全技能的开源项目,包含817个技能,覆盖29个安全领域,并映射到MITRE ATT&CK、NIST CSF 2.0、MITR★ 36,171
gitleaksGitleaks 是一个用 Go 编写的开源密钥扫描工具,专门用于检测 Git 仓库中的敏感信息泄露,如密码、API 密钥、令牌等。它解决的是开发者在代码提交过★ 31,043
infisicalInfisical 是一个开源密钥与身份安全管理平台,用 TypeScript 编写,目标是把散落在 .env 文件、CI 变量和云控制台里的敏感信息统一收口。★ 30,521
DB-GPTDB-GPT 是一个开源的智能体 AI 数据助手,旨在将大语言模型与数据管理、分析场景深度结合,解决传统数据工具交互复杂、门槛高的问题。它提供自然语言转 SQL★ 20,297
codex-securitycodex-security 是 OpenAI 推出的安全扫描命令行工具与 TypeScript SDK,面向应用安全与 DevSecOps 场景。它利用 Co★ 13,582
lamdalamda 是一个面向 Android 的全栈设备控制平台,用 Python 编写,目标是把远程桌面、自动化操作、安全测试和网络组网能力整合到一套系统里。它通过★ 8,740
AI-Infra-GuardAI-Infra-Guard 是一个全栈 AI 红队测试平台,旨在系统性评估和加固 AI 生态系统的安全性。它解决了 AI 应用从模型、代理、技能到基础设施各层★ 7,511
superagentSuperagent 是一个专注于 AI 应用安全的开源库,主要解决提示注入、数据泄露和有害输出等安全问题。它提供轻量级 SDK,可嵌入现有 AI 应用,通过检★ 6,874
osmedeusosmedeus 是一个用 Go 编写的现代化安全编排引擎,旨在自动化执行漏洞扫描和攻击面管理流程。它通过工作流(Workflow)的概念,将信息收集、端口扫描★ 6,656
agent-governance-toolkit这是一个面向AI智能体的治理工具包,旨在解决自主AI代理在运行时缺乏安全管控和合规能力的问题。它围绕策略执行、零信任身份验证、执行沙箱和可靠性工程四大核心模块构★ 6,567
nononono 是一个用 Rust 编写的 AI 智能体沙箱工具,旨在让开发者以零配置、零延迟的方式运行任何 AI 智能体。它解决了 AI 智能体在代码执行、工具调用★ 4,989
PyRITPyRIT 是微软开源的生成式 AI 风险识别工具,面向安全工程师和红队人员,用于主动发现大模型与生成式 AI 系统中的安全风险。它解决的是 AI 应用上线前缺★ 4,856
ciso-assistant-communityCISO Assistant 是一个一站式 GRC(治理、风险与合规)平台,旨在帮助安全团队和合规人员高效管理风险、应用安全、合规审计、第三方风险管理(TPRM★ 4,632
tracecatTracecat 是一个面向安全团队和 AI 代理的开源安全自动化平台。它旨在解决安全运营中告警疲劳、响应迟缓、手动操作繁琐等问题,通过将安全编排、自动化和响应★ 3,907
CyberStrikeCyberStrike 是一个开源的 AI 增强型攻击性安全测试平台,旨在将大语言模型(LLM)能力与自动化渗透测试相结合,帮助安全团队高效执行红队演练。它内置★ 3,580
artex-koARTEX 韩语版(artex-ko)是开源自主渗透测试框架 ARTEX 的韩语本地化分支,上游项目为 Autumn-27/ARTEX,采用 Go 语言开发,遵★ 3,387
agent-scanagent-scan 是一款面向 AI Agent 生态的安全扫描器,主要针对 AI 智能体、MCP(Model Context Protocol)服务器以及 ★ 3,242
ChatermChaterm 是一款开源的 AI 终端工具,面向云资源与基础设施管理场景。它把自然语言交互和智能代理引入终端,让用户用对话方式完成服务部署、故障排查和自动化操★ 3,108
vulnhuntrvulnhuntr 是一个利用大型语言模型进行零样本漏洞发现的开源工具。它解决的是传统静态分析工具依赖规则和模式匹配、难以发现未知漏洞的问题。核心能力是直接对代★ 2,820
skill-scannerskill-scanner 是一个用 Python 编写的安全扫描器,专门针对 Agent Skills(智能体技能)这类新兴资产做静态与动态安全检测。随着 A★ 2,728
boxliteboxlite 是一个专为 AI 智能体设计的微型虚拟机,用 Rust 编写,体积小到可以嵌入笔记本电脑,同时具备弹性伸缩能力以支撑云端智能体集群。它解决了 A★ 2,648
beelzebubbeelzebub 是一个基于 Go 语言开发的安全低代码欺骗运行时框架,利用 AI 技术实现系统虚拟化。它旨在解决传统蜜罐系统部署复杂、难以模拟真实系统环境的★ 2,238
agent-safehouseagent-safehouse 是一个用 Shell 编写的轻量级沙箱工具,专门用于限制本地 AI 代理(如 Claude、OpenAI 等)的文件系统访问权限★ 2,150
DevDocsDevDocs 是一个完全免费、注重隐私的基于 UI 的技术文档 MCP 服务器,专为程序员和软件开发者设计。它解决了开发者在编码时频繁切换 IDE 和浏览器查★ 2,107
Awesome-LM-SSPAwesome-LM-SSP 是一个聚焦大模型安全、隐私与可信度的精选阅读清单,收录了相关论文、工具、数据集和攻击防御方法。它系统梳理了提示注入、越狱攻击、隐私★ 2,106
cc-safety-netcc-safety-net 是一个面向 AI 编码代理的安全防护工具,以 CLI 钩子形式在危险命令执行前进行拦截,防止 AI 代理误删代码、访问敏感文件或执行★ 2,044
Awesome-FLAwesome-FL 是一个面向联邦学习(Federated Learning)领域的综合性学术资源清单,系统整理了该方向的重要论文、开源框架、常用数据集、教程★ 2,019
Awesome-Jailbreak-on-LLMs这是一个聚焦大语言模型越狱攻击方法的精选资源库,系统整理了学术界和工业界关于LLM安全漏洞的最新研究。项目收集了论文、代码、数据集、评估工具和分析报告,覆盖从提★ 1,984
graph-fraud-detection-papers这是一个精选的图神经网络与Transformer在欺诈检测、异常检测和离群点检测领域的论文与资源列表。项目系统整理了基于图结构(如GNN、Graph Trans★ 1,906
greenmaskGreenmask 是一个用 Go 编写的数据库匿名化与测试数据管理工具,主要面向 PostgreSQL 和 MySQL。它解决了开发、测试环境中使用真实数据带★ 1,807
awesome-ai-security-tools这是一个面向 AI 安全与 AI 辅助网络安全的精选工具清单,把公开源码、学术研究和商业产品按用途分类整理。它解决的核心问题是:AI 安全领域工具散落、命名混乱★ 1,759
awesome-llm-securityawesome-llm-security 是一个精选列表,汇集了关于大语言模型(LLM)安全领域的优秀工具、文档和项目。它旨在解决 LLM 应用日益增长的安全问★ 1,722
OpenAPPAOpenAPPA 是一个用 Rust 编写的确定性护栏(guardrails)系统,面向 AI Agent 的安全与合规场景。它要解决的问题是:传统基于概率模型★ 1,634
FuzzyAIFuzzyAI 是一个自动化的大语言模型模糊测试工具,旨在帮助开发者和安全研究人员发现并缓解其 LLM API 中的潜在越狱漏洞。它通过生成大量恶意或边界输入,★ 1,606
DataProfilerDataProfiler 是一个开源的数据分析工具,用于快速提取数据集的模式(schema)、统计信息和实体标签。它解决的核心问题是帮助数据科学家和工程师在拿到★ 1,600
Awesome-LLMs-for-Vulnerability-Detection这是一个持续更新的开源索引,专门收录大语言模型(LLM)在软件漏洞检测领域的研究成果。项目按函数级、仓库级、智能体驱动和智能合约检测等维度分类整理了论文,并汇总★ 1,597
burp-ai-agentburp-ai-agent 是一个 Burp Suite 扩展,为安全测试人员提供内置的 MCP(模型上下文协议)工具集成和 AI 辅助分析能力。它解决了渗透测★ 1,593
rebuffRebuff 是一个专注于检测和防御大语言模型提示注入攻击的开源工具。它解决的是 LLM 应用面临的安全问题,即恶意用户通过精心构造的输入提示,诱导模型执行非预★ 1,533
oss-fuzz-genoss-fuzz-gen 是一个利用大语言模型(LLM)自动生成模糊测试用例的开源工具,基于 OSS-Fuzz 生态构建。它解决的是安全测试中模糊测试用例编写门★ 1,453
agentshieldagentshield 是一个针对 AI 智能体(Agent)的安全扫描工具,旨在检测智能体配置、MCP 服务器和工具权限中的潜在漏洞。它解决了随着 AI Ag★ 1,408
xalgorixxalgorix 是一个基于 Go 和 TypeScript 构建的自主 AI 渗透测试代理框架,旨在自动化安全评估流程。它能够实时进行侦察、漏洞检测和利用编排★ 1,355
hol-guardhol-guard 是一个面向 AI 智能体的开源防病毒工具,旨在解决 AI 代理在运行时面临的多类安全威胁。它能够实时拦截高风险工具调用、敏感凭据访问、提示注★ 1,107
agentic-radaragentic-radar 是一个面向 LLM 智能体工作流的安全扫描器,用 Python 编写并提供 CLI。它要解决的问题是:当开发者用 LangGraph★ 1,070
openloomiOpenLoomi 是一个开源的 AI 同事(Attention Agent),用 TypeScript 编写。它通过连接你日常使用的办公工具(如 Gmail ★ 1,043
agentdojoagentdojo 是一个用于评估 LLM 智能体攻击与防御的动态环境。它解决的核心问题是:随着 LLM 智能体被赋予调用外部工具和访问敏感数据的权限,针对这些★ 1,036