llm-security 第 2 页
本站收录 74 个带「llm-security」标签的 AI 开源项目（按 GitHub 星标从高到低，第 2 / 2 页）
Awesome-LLMSecOpsAwesome-LLMSecOps 是一个专注于大语言模型（LLM）与智能体（Agent）安全运营的精选资源列表。它系统性地整理了 LLM 安全领域的威胁建模、★ 166
XSafeClawXSafeClaw 是复旦大学开源的多智能体安全评测平台，专注于检测和防御针对 LLM 智能体的安全威胁。它解决的核心问题是：随着 Agent 被赋予工具调用和★ 166
fast-llm-security-guardrailsfast-llm-security-guardrails 是一个面向 AI Agent 的快速安全防护层（Trust Layer），旨在解决 LLM 应用中的提★ 155
ai-safe2-frameworkAI SAFE² 是一个面向智能体 AI、非人类身份（NHI）和 AI 集群（Swarm）的治理、风险与合规（GRC）操作系统，同时集成了安全能力。它试图解决 ★ 148
open-biasopen-bias 是一个开源的策略执行代理（policy enforcement proxy），定位为 AI 代理的“防火墙”与护栏层。它解决的核心问题是：当★ 145
shellwardshellward 是一个面向 AI 应用的合规与安全网关，旨在帮助开发者和企业快速识别并修复 AI 项目中的合规风险。它通过一行命令对项目进行静态体检，覆盖数★ 139
AI-SurfaceAI-Surface 是一个面向应用代码的 AI 攻击面发现与治理工具，核心思路是在代码提交（PR）阶段就识别出 AI 相关组件带来的安全风险。它通过静态扫描代★ 138
TracekitTracekit 是一个面向 AI Agent 的可审计追踪与安全控制工具，核心解决 Agent 执行过程不透明、行为难以追责的问题。它通过防篡改的追踪记录，把★ 138
guardian-sdkGuardian SDK 是 Ethicore Engine™ 的开源组件，一个专注于 AI 安全、伦理与合规的防护平台。它通过多层分析流水线，保护 AI 应用★ 123
raga-llm-hubraga-llm-hub 是一个用于大语言模型（LLM）评估、防护栏（guardrails）和安全的开源框架，基于 Python 构建。它旨在解决 LLM 应用★ 115
llm-gatewayllm-gateway 是一个零信任的 LLM 网关，提供 OpenAI 兼容的代理服务，支持语义路由和负载均衡，可对接 OpenAI、Anthropic、Ol★ 100
VeritensorVeritensor 是一个针对 AI 供应链的安全静态分析工具，定位为“AI 制品杀毒软件”和“RAG 防火墙”。它主要解决 AI 开发中模型、数据集、笔记本★ 88
aisbomaisbom 是一个面向人工智能领域的软件物料清单（SBOM）工具，旨在为 AI 供应链提供透明度和可追溯性。它解决的核心问题是：随着 AI 模型和数据集在软件★ 83
circle-guard-benchcircle-guard-bench 是首个专门评估大语言模型（LLM）防护系统（包括 guardrails 和 safeguards）能力的 AI 基准测试框★ 82
datafog-pythondatafog-python 是一个面向 AI 智能体和 LLM 应用的离线 PII（个人身份信息）防火墙。它解决的是 AI 应用在交互过程中可能泄露敏感数据的★ 79
awesome-ai-agents-security这是一个关于AI智能体安全的精选资源列表，旨在绘制AI代理安全生态系统的活地图。它系统整理了该领域的关键主题，包括自主代理、生成式AI、网络安全、护栏、越狱攻击★ 77
Awesome-LLMs-ICLR-24Awesome-LLMs-ICLR-24 是一个专门整理 ICLR 2024 会议上所有大语言模型（LLM）相关论文的资源合集。它解决了研究者难以系统追踪顶级会★ 73
aiml-companionAI-ML Companion 是一个交互式学习平台，旨在通过可视化方式帮助用户理解人工智能和机器学习。它包含22个学习轨道和300多个模块，提供实时可视化演示★ 72
AegisGateAegisGate 是一个开源的 LLM API 安全网关，作为 OpenAI/Claude 兼容的代理层，为 AI 编码代理（如 Cursor、Claude ★ 70
lelulelu 是一个面向 AI 智能体的开源授权引擎，专注于解决大模型应用中的安全与合规问题。它提供信心感知的门控机制，当智能体对操作不确定时自动暂停并请求人工审批★ 68
helm-ai-kernelhelm-ai-kernel 是一个面向 AI 智能体的执行防火墙，采用 Go 语言开发。它解决的核心问题是：当 AI 代理（如基于 MCP 的工具调用）执行操★ 60
clawseccheckclawseccheck 是一个针对 OpenClaw 智能体框架的本地只读安全扫描器。它主要解决 OpenClaw 用户在配置和运行智能体时面临的安全风险，包★ 58
llmtracellmtrace 是一个零代码的 LLM 安全与可观测性代理，专为 OpenAI 兼容 API 设计。它作为中间层，实时拦截并分析请求与响应，提供提示注入检测、★ 53
litmusLitmus 是一个面向生成式 AI 应用开发的 LLM 测试与评估平台。它通过友好的用户界面，帮助开发者系统化地构建和评估基于大语言模型的应用性能。项目解决了★ 52