openai-guardrails-python

给 LLM 应用加一层安全护栏,自动拦截违规输入输出

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 52 🐛 待处理 5 👀 关注 5
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 265
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费使用

项目预览

openai-guardrails-python 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队openai
定价模式🏷️完全免费
价格说明开源免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
GitHub 星标★ 265
上线时间2025-04-09 00:00:00
代码更新2026-11-02
仓库体积4.9 MB
本站数据更新2026-11-04
维护状态活跃
收录时间2026-09-16
浏览次数1

项目介绍

openai-guardrails-python 是 OpenAI 官方开源的 Python 安全护栏库,用于在 LLM 应用中检测和拦截不安全内容。它解决的是生成式 AI 落地时的内容合规与风险控制问题:模型可能输出暴力、仇恨、自残、色情等违规内容,或用户输入恶意提示词。该库提供可组合的护栏(Guardrails),对输入和输出进行多维度审查,支持自定义规则与策略,并可与 OpenAI API 或自建模型服务集成。核心能力包括:预置多种安全分类器、支持同步/异步调用、可配置拦截阈值与动作(阻断、改写、记录),以及便于扩展的插件式架构。项目处于早期阶段,星标约 248,适合需要快速为聊天机器人、内容生成、客服系统等场景增加安全层的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 265

核心亮点

  • OpenAI 官方维护,与 OpenAI API 生态天然兼容
  • 提供可组合的护栏抽象,支持输入/输出双向审查
  • 插件式架构,方便接入自定义分类器或规则

不足之处

  • 项目早期,星标较少,API 可能不稳定
  • 文档和示例相对有限,社区生态待观察

适用场景

  • 聊天机器人内容合规过滤
  • 用户生成内容平台自动审核
  • 企业客服系统防止敏感信息泄露

替代项目

NeMo Guardrails、Guardrails AI

上一篇:dodoguard

下一篇:trustmebro

同类项目推荐

TAB 开源

统一评测时间序列异常检测方法,公平对比选最优

[PVLDB 2025] TAB: Unified Benchmarking of Time Series Anomaly Detection Methods

★ 146 2026-08-09
guardrails 开源

给大模型输出装上安全阀,让生产更可靠

Adding guardrails to large language models.

★ 7584 2026-08-09
absent-author 开源

用证据清单和 AI agent 揪出没人负责的 AI 论文

Research and writing can be automated. Authorship cannot. Evidence list + agent skil···

★ 147 2026-10-22
memorybench 开源

一套基准跑遍对话记忆与 RAG,选型不再靠拍脑袋

Unified benchmark for evaluating conversational memory and RAG across multiple datas···

★ 334 2026-09-21
autoarena 开源

自动两两PK,快速选出最优LLM或RAG配置

Rank LLMs, RAG systems, and prompts using automated head-to-head evaluation

★ 108 2026-08-09
Awesome-LLMs-Pruning 开源

大模型剪枝论文一网打尽,调研选型不迷路

Awesome LLM pruning papers all-in-one repository with integrating all useful resourc···

★ 182 2026-10-24
iFixAi 开源

120秒快速审计AI Agent,确保它按预期干活

Independent Auditing of AI Agents. Run by human or the agent itself, to answer the m···

★ 43368 2026-08-10
awesome-ai-testing 开源

一页清单看懂 AI 测试工具,选型不再东拼西凑

A curated list of AI-powered testing tools, frameworks, and resources for QA enginee···

★ 172 2026-09-25
AgentBench 开源

一套基准测出 LLM 当智能体到底行不行

A Comprehensive Benchmark to Evaluate LLMs as Agents (ICLR'24)

★ 3811 2026-08-09