SIMURG

流式生成中实时拦截重复、漂移和乱码，不让坏 token 见用户

SIMURG 是一个面向大语言模型流式输出的在线异常检测与防护工具。它解决的核心问题是：LLM 在解码过程中常出现重复循环、语言漂移、乱码等退化现象，而传统方案往往要等整段输出完成才能发现，用户已经看到坏 token。SIMURG 在流式生成过程中实时监控，一旦检测到异常就提前拦截，避免劣质内容触达用户。它兼容任何 OpenAI 接口的 API，可接入 vLLM 等推理后端，采用在线学习与异常检测技术，无需离线训练即可适应不同模型。此外项目还附带免费网页搜索能力，方便 AI 智能体获取实时信息。适合需要高可靠输出、低延迟防护的 LLM 应用场景。

开源 free 评测安全

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 106

维护状态活跃

是否开源是

定价模式 free

项目数据

分类评测安全

开发团队doofzoff

所属国家

官网地址

GitHubhttps://github.com/doofzoff/SIMURG

定价模式free

价格说明开源免费，无在线服务

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型anomaly-detection,guardrails,hallucination-detection,inference,llm,llm-safety,online-learning,openai-api,streaming,vllm

GitHub 星标★ 106

30天Star增速

HF 下载量

上线时间2026-07-20 00:00:00

最近更新2026-09-25 00:00:00

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-09-27

浏览次数0

使用教程

核心亮点

在流式解码过程中实时检测，比事后过滤更早拦截退化输出
兼容任意 OpenAI 格式 API，可对接 vLLM 等主流推理后端
内置在线学习机制，无需离线训练即可适配不同模型和任务

不足之处

项目处于早期，星标仅 106，生产环境验证案例较少
文档和社区生态尚不完善，接入与调参可能需要自行摸索

适用场景

聊天机器人流式输出时防止重复循环和语言漂移
AI 智能体调用工具或搜索后生成回答时保障内容质量
基于 vLLM 的高并发推理服务中实时过滤劣质 token

替代项目

Guardrails AI、NVIDIA NeMo Guardrails

项目介绍

SIMURG 是一个评测安全领域的开源项目，官方简介：Zero-leak online detection of LLM decoding corruption and Free Web Search for your AI agents! Catch repetition loops, language drift and garbage mid-stream, before the user sees a bad token. Works with any OpenAI-compatible API.。项目使用 Python 开发，在 GitHub 上获得 106 星标。

上一篇：dynolab

下一篇：没有了！