项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-26 · 当前星标 ★ 113
核心亮点
- OpenAI 官方出品，与 OpenAI API 调用链天然契合，规则语义和后续更新有官方背书
- TypeScript 原生实现，类型定义完整，Node.js 与前端工程可直接复用，无需跨语言桥接
- 支持输入与输出双向校验，可在模型调用前后分别拦截，覆盖提示注入与生成内容两类风险
不足之处
- 项目处于早期，星标仅 102，生态、示例和第三方规则库尚不丰富
- 规则能力偏声明式，复杂语义判断仍需依赖模型或外部分类器，深度定制成本较高
适用场景
- 面向 C 端的 AI 聊天应用，在用户输入进入模型前拦截越狱与违规话题
- 企业知识库问答，在模型输出返回前检测 PII 与敏感信息泄露
- AI Agent 或工具调用链路中，对模型生成的指令和参数做安全校验
替代项目
guardrails-ai、nemo-guardrails
同类项目推荐
DECEIVE
开源
让大模型替你扮演蜜罐，自动接住攻击者的话
DECeption with Evaluative Integrated Validation Engine (DECEIVE): Let an LLM do all ···
beir
开源
一个平台，跑遍15+检索数据集，看清模型真实力。
A Heterogeneous Benchmark for Information Retrieval. Easy to use, evaluate your mode···
llm-leaderboard
开源
一站式对比LLM基准分数和价格，快速选型
A comprehensive set of LLM benchmark scores and provider prices. (deprecated, read m···
MemoryAgentBench
开源
多轮对话里测 Agent 记不记得住、找不找得回
Open source code for ICLR 2026 Paper: Evaluating Memory in LLM Agents via Incrementa···
hawk
开源
把 Inspect AI 评测搬到云端批量跑
Run Inspect AI evals in the cloud
OpenRT
开源
一键对多模态大模型发起42+攻击，快速暴露安全漏洞
Open-source red teaming framework for MLLMs with 42+ attack methods
dep-scan
开源
扫依赖和镜像，查漏洞与许可证风险，出 SBOM
OWASP dep-scan is a next-generation security and risk audit tool based on known vuln···
VLMEvalKit
开源
一键评测 220+ 多模态模型，秒出对比报告
Open-source evaluation toolkit of large multi-modality models (LMMs), support 220+ L···
bergen
开源
给RAG系统做体检，量化对比谁更强
Benchmarking library for RAG