Guardrails

给大模型对话装上可编程的安全护栏，防止跑偏和有害输出。

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署评测安全 🍴 复刻 899 🐛 待处理 274 👀 关注 47

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 7460

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源工具包，完全免费，可自行部署使用。

项目预览

项目数据

分类评测安全

开发团队NVIDIA-NeMo

官网地址https://docs.nvidia.com/nemo/guardrails/latest/index.html

GitHubhttps://github.com/NVIDIA-NeMo/Guardrails

定价模式🏷️完全免费

价格说明开源工具包，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议NOASSERTION

主要语言Python

技术栈/模型agents,generative-ai,guardrails,llm-safety,llm-security,llms,nvidia,python,safety

GitHub 星标★ 7460

上线时间2023-04-18 00:00:00

代码更新2026-11-09

仓库体积153.6 MB

本站数据更新2026-11-10

维护状态活跃

收录时间2026-08-10

浏览次数10

项目介绍

NeMo Guardrails 是 NVIDIA 开源的 LLM 对话系统安全护栏工具包，旨在为基于大语言模型的对话应用添加可编程的、可组合的安全约束。它解决的核心问题是：LLM 输出不可控、易产生有害或越界内容，且难以在复杂对话流程中系统性地进行安全管控。其核心能力包括：通过定义可编程的 Rails（护栏）来约束对话行为，支持三种主要护栏类型——Topical Rails（限定对话主题范围）、Safety Rails（检测并阻止有害内容）和 Fact-checking Rails（验证事实准确性）；提供基于 Colang 的领域特定语言（DSL）来编写对话流程和护栏规则，使开发者无需深入模型内部即可灵活定制安全策略；支持与主流 LLM（如 GPT、Llama 等）集成，并可与 LangChain、RAG 等框架协同工作；内置可插拔的检测器（如 Jailbreak 检测、敏感话题检测）和生成器，便于扩展。该工具特别适合企业级应用，能在不牺牲功能的前提下显著提升 LLM 系统的安全性和合规性。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 7460

技术标签

agents generative-ai guardrails llm-safety llm-security

使用教程

难度：入门约 10 分钟部署方式：库/依赖 6 步

环境要求

Python 3.10、3.11、3.12 或 3.13
可用的 pip 包管理环境
一个 guardrails 配置目录（含 config.yml，可选 config.py、actions.py）
如需 Docker 部署：本地已安装 Docker（README 提供 Dockerfile）

安装与启动步骤

1检查 Python 版本

Guardrails 要求 Python 3.10~3.13，版本不符需先升级或切换虚拟环境后再安装。
```
python --version
```
2安装 nemoguardrails

使用 pip 从 PyPI 安装官方包，无需克隆仓库；建议在虚拟环境中安装。
```
pip install nemoguardrails
```
3准备配置目录

按标准结构创建配置文件夹：config.yml 放通用配置，config.py 放初始化代码，actions.py 放自定义 Python action。
4编写 config.yml

在配置文件中声明要使用的 LLM 模型、需要启用的 rails 以及自定义配置数据；不配置任何 rail 时会直接转发请求给 LLM。

5用 Python API 调用

通过 RailsConfig.from_path 加载配置并创建 LLMRails 实例，再用 generate 方法发起对话，输入输出格式与 Chat Completions API 类似。

from nemoguardrails import LLMRails, RailsConfig

config = RailsConfig.from_path("PATH/TO/CONFIG")
rails = LLMRails(config)

completion = rails.generate(
    messages=[{"role": "user", "content": "Hello world!"}]
)
print(completion)

6按需关闭遥测

库默认会收集匿名使用统计；如不希望上报，设置该环境变量即可关闭。
```
export NEMO_GUARDRAILS_NO_USAGE_STATS=1
```

关键配置

配置项	必填	说明	示例
`PATH/TO/CONFIG`	是	护栏配置目录路径，由 RailsConfig.from_path 加载	`PATH/TO/CONFIG`
`config.yml`	是	通用配置：LLM 模型、启用的 rails、自定义配置数据	`config/config.yml`
`config.py`	否	自定义初始化代码文件	`config/config.py`
`actions.py`	否	自定义 Python action 文件	`config/actions.py`
`NEMO_GUARDRAILS_NO_USAGE_STATS`	否	设为 1 可关闭匿名使用统计遥测	`1`