openai-guardrails-js

给 LLM 应用加一道输入输出安检门,拦截越狱与敏感内容

openai-guardrails-js 是 OpenAI 官方 Guardrails 的 TypeScript/JavaScript 实现,用于在 LLM 应用中对输入和输出做安全与合规校验。它解决的是大模型应用里提示注入、越狱、敏感内容、PII 泄露、话题越界等风险难以统一拦截的问题,让开发者不必自己从零写规则引擎。核心能力包括:以声明式方式定义护栏规则(如关键词、正则、话题分类、PII 检测),在请求进入模型前和模型返回后两个阶段执行检查,支持触发时阻断、改写或标记,并可与 OpenAI 的模型调用链路配合使用。项目用 TS 编写,类型友好,适合 Node.js 服务端、边缘函数和前端工具链集成,帮助团队把安全策略从散落的 if-else 收敛为可复用、可测试的配置。

开源 unknown 评测安全
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 102
维护状态 活跃
是否开源 是
定价模式 unknown

项目数据

分类评测安全
开发团队openai
所属国家
定价模式unknown
价格说明定价信息待确认
访问状态
是否开源是
开源协议MIT
主要语言TypeScript
技术栈/模型
GitHub 星标★ 102
30天Star增速
HF 下载量
上线时间2025-09-17 00:00:00
最近更新2026-09-24 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-26
浏览次数0

使用教程

核心亮点

  • OpenAI 官方出品,与 OpenAI API 调用链天然契合,规则语义和后续更新有官方背书
  • TypeScript 原生实现,类型定义完整,Node.js 与前端工程可直接复用,无需跨语言桥接
  • 支持输入与输出双向校验,可在模型调用前后分别拦截,覆盖提示注入与生成内容两类风险

不足之处

  • 项目处于早期,星标仅 102,生态、示例和第三方规则库尚不丰富
  • 规则能力偏声明式,复杂语义判断仍需依赖模型或外部分类器,深度定制成本较高

适用场景

  • 面向 C 端的 AI 聊天应用,在用户输入进入模型前拦截越狱与违规话题
  • 企业知识库问答,在模型输出返回前检测 PII 与敏感信息泄露
  • AI Agent 或工具调用链路中,对模型生成的指令和参数做安全校验

替代项目

guardrails-ai、nemo-guardrails

项目介绍

openai-guardrails-js 是评测安全领域的开源项目,由 openai 开发,2025 年首次发布。

它收录于评测安全分类,该分类目前共有 467 个项目,GitHub 星标数为 102。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-24。

它主要面向的使用场景是:面向C端的AI聊天应用,在用户输入进入模型前拦截越狱与违规话题。同类可对比的替代方案包括 guardrails-ai、nemo-guardrails。

上一篇:GLM-5.3-Flash-J-Space-Capability-Realization-Report

下一篇:没有了!

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12