项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-27 · 当前星标 ★ 105
核心亮点
- 在流式解码过程中实时检测，比事后过滤更早拦截退化输出
- 兼容任意 OpenAI 格式 API，可对接 vLLM 等主流推理后端
- 内置在线学习机制，无需离线训练即可适配不同模型和任务
不足之处
- 项目处于早期，星标仅 106，生产环境验证案例较少
- 文档和社区生态尚不完善，接入与调参可能需要自行摸索
适用场景
- 聊天机器人流式输出时防止重复循环和语言漂移
- AI 智能体调用工具或搜索后生成回答时保障内容质量
- 基于 vLLM 的高并发推理服务中实时过滤劣质 token
替代项目
Guardrails AI、NVIDIA NeMo Guardrails
同类项目推荐
compute-eval
开源
用真实编译运行测大模型写 CUDA 代码行不行
Evaluating Large Language Models for CUDA Code Generation ComputeEval is a framework···
superagent
开源
给 AI 应用装上安全盾，防注入防泄露
Superagent protects your AI applications against prompt injections, data leaks, and ···
MemoryAgentBench
开源
多轮对话里测 Agent 记不记得住、找不找得回
Open source code for ICLR 2026 Paper: Evaluating Memory in LLM Agents via Incrementa···
GitTaskBench
开源
用真实仓库任务，测出代码代理的真实水平
Repo-level benchmark for real-world Code Agents: from repo understanding → env setu···
xVerify
开源
快速验证推理模型答案，让评估更省钱省时。
xVerify: Efficient Answer Verifier for Reasoning Model Evaluations
aegis
开源
给大模型装上会自我进化的安全防火墙
Self-hardening firewall for large language models
InferenceX
开源
多模型多硬件推理压测，一键跑出可比性能数据
Open Source AI Accelerator Research Platform Standard / 开源推理研究平台
MMStar
开源
更公平地测出大模型真实视觉能力，避免作弊分
[NeurIPS 2024] This repo contains evaluation code for the paper "Are We on the Right···
InfiniteBench
开源
测出大模型在10万字长文本下的真实水平
Codes for the paper "∞Bench: Extending Long Context Evaluation Beyond 100K Tokens":···