项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 30
技术标签
核心亮点
- 基于 Pingora，继承其高并发、低延迟的 Rust 网络能力
- 内置 AI 网关过滤器，直接适配 LLM 流量管理场景
- 支持 Wasm 插件运行时，扩展灵活且隔离安全
不足之处
- 项目处于早期，文档和社区生态尚不完善
- 功能覆盖有限，高级路由策略和可观测性功能待增强
适用场景
- 作为云原生 API 网关的数据面，处理南北向流量
- 在 AI 推理服务前提供统一鉴权、限流和审计
- 需要高性能流式转发的场景，如视频流、SSE 等
替代项目
Envoy、Linkerd、Traefik
上一篇：AegisGate
同类项目推荐
ChannelMonitor
开源
定时自动测试渠道模型，故障秒级标记，减少 API 报错
Channel Monitor 是一个用于监控OneAPI/NewAPI/OneHub渠道的工具，它直接读取channels和ab···
ContextPilot
开源
长上下文推理瘦身，不丢精度还更快
Accelerating Long Context LLM Inference with Accuracy-Preserving Context Optimizatio···
hordelib
开源
把 ComfyUI 封装成简单接口，让 AI Horde 轻松调用生成图像。
A wrapper around ComfyUI to allow use by the AI Horde.
magnitude
开源
按你的硬件自动调内核，本地跑模型更快
Open source inference engine that tunes its kernels on your hardware to find the fas···
Nubase
开源
把 AI 写的代码变成能跑的真应用，一站式后端服务
Turn AI-written code into real apps. Nubase is an open-source, AI-native backend pla···
apisix
开源
云原生 API 网关，动态热更新，轻松管理 AI 与大模型流量。
The Cloud-Native API Gateway and AI Gateway
fuseml
开源
把散落的 AI 工具串成自动化流水线，减少集成折腾
FuseML aims to provide an MLOps framework as the medium dynamically integrating toge···
superlog
开源
AI代理自动修故障，软件自愈省心
Open-source observability tool that uses AI agents to self-heal your software
agent-trace
开源
给 AI 智能体装上监控，看清每一步动作和花费
Observability for AI agents. See what your agent did, why it cost that much, and wha···