guardrails 第 2 页
本站收录 66 个带「guardrails」标签的 AI 开源项目（按 GitHub 星标从高到低，第 2 / 2 页）
audited-change-gateaudited-change-gate 是一个面向 AI 运维（AIOps）的自动化变更管理门禁工具，核心解决 AI 智能体（如 Claude Code、Cod★ 116
raga-llm-hubraga-llm-hub 是一个用于大语言模型（LLM）评估、防护栏（guardrails）和安全的开源框架，基于 Python 构建。它旨在解决 LLM 应用★ 115
nemo-helixNeMo Helix 是 NVIDIA 推出的 AI Agent 全生命周期优化工具，聚焦于让上线的智能体更快、更准、更安全。它面向构建和运维 LLM Agen★ 113
solvent-agentsolvent-agent 是一个离线优先的自主财务分析智能体演示项目，核心目标是验证 AI 智能体能否在无人干预下实现自我造血并保持财务可持续。它通过 Str★ 110
jevalsjevals 是一个面向 AI Agent 的评测与护栏（guardrails）工具，核心思路是把每一次 Agent 调用建模为一次 Jev 决策：每个 tra★ 105
InjectRangeInjectRange 是一个面向大模型提示注入（prompt injection）评测的防护测试框架，用 Python 编写，提供命令行工具。它内置了六个入侵★ 105
End-to-End-Agentic-Ai-Automation-Lab这是一个面向智能体（Agentic AI）的动手实践型开源实验室，汇集了多智能体系统、LangChain、LangGraph、AutoGen、CrewAI、RA★ 103
SIMURGSIMURG 是一个面向大语言模型流式输出的在线异常检测与防护工具。它解决的核心问题是：LLM 在解码过程中常出现重复循环、语言漂移、乱码等退化现象，而传统方案★ 102
agentjailagentjail 是一个为编码智能体（如 Claude Code、Codex、Cursor）提供策略护栏的开源工具。它解决的核心问题是：AI 编程助手在自动执★ 99
codexmasterCodexMaster 是一个为 OpenAI Codex 等 AI 编程代理设计的提示词与规则框架，由 32 个 Markdown 文件组成，涵盖治理、执行、★ 85
circle-guard-benchcircle-guard-bench 是首个专门评估大语言模型（LLM）防护系统（包括 guardrails 和 safeguards）能力的 AI 基准测试框★ 82
datafog-pythondatafog-python 是一个面向 AI 智能体和 LLM 应用的离线 PII（个人身份信息）防火墙。它解决的是 AI 应用在交互过程中可能泄露敏感数据的★ 79
awesome-ai-agents-security这是一个关于AI智能体安全的精选资源列表，旨在绘制AI代理安全生态系统的活地图。它系统整理了该领域的关键主题，包括自主代理、生成式AI、网络安全、护栏、越狱攻击★ 77
agent-osagent-os 是一个已废弃的智能体治理与安全框架，由微软发起，现已迁移至 microsoft/agent-governance-toolkit。它旨在解决企★ 74
lelulelu 是一个面向 AI 智能体的开源授权引擎，专注于解决大模型应用中的安全与合规问题。它提供信心感知的门控机制，当智能体对操作不确定时自动暂停并请求人工审批★ 68
ATLAS_OSATLAS_OS 是一个基于 Hook 驱动的多智能体命令行工具，旨在通过单一提示词完成从规格说明、代码生成、测试到发布的全流程。它解决了传统 AI 编程工具在★ 68