项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 265
核心亮点
- 统一 API 接口,兼容 OpenAI 格式,迁移成本低
- 支持多家主流模型提供商,便于模型切换和容灾
- 内置负载均衡和错误重试,提升调用稳定性
不足之处
- 早期项目,文档和社区生态尚不完善
- 高级功能如成本监控、细粒度限流可能缺失
适用场景
- 需要同时使用多家大模型服务的应用开发
- 希望避免供应商锁定,灵活切换模型的团队
- 构建内部 AI 中间层,统一管理模型调用的场景
替代项目
LiteLLM、OpenRouter、Portkey
上一篇:Observal
下一篇:langfuse-docs
同类项目推荐
dataplane
开源
用 Rust 打造高性能 AI 网关数据面,支持 Wasm 插件扩展
Rust data plane for Nantian Gateway. HTTP/gRPC proxy, stream passthrough, AI Gateway···
casadi
开源
写符号表达式,自动求导并生成优化代码
CasADi is a symbolic framework for numeric optimization implementing automatic diffe···
freebucks-proxy
开源
多账号池化 OpenAI 网关,编码模型调用不再被限流卡住
Archived; no longer maintained.
OB1
开源
给AI装一个统一大脑:记忆、网关、聊天全搞定
Open Brain — The infrastructure layer for your thinking. One database, one AI gatew···
Safe-and-Stable-Ckpt2Safetensors···
开源
一键安全转换 ckpt 为 safetensors,告别恶意代码风险
Convert your Stable Diffusion checkpoints quickly and easily.
sample-connector-for-bedrock
开源
统一接口调用 Bedrock 与自定义模型,快速搭 GenAI 原型
Seamlessly invoke Amazon Bedrock or your custom models, enabling a smooth experience···
memsearch
开源
给 AI 智能体装上长期记忆,跨会话秒级召回关键信息
A persistent, unified memory layer for all your AI agents (e.g. Claude Code, Codex, ···
comfyui-api
开源
把 ComfyUI 封装成高并发 API,同步异步都能拿结果
A simple API server to make ComfyUI easy to scale horizontally. Get outputs directly···
queryflux
开源
一个入口智能分发 SQL 到多个查询引擎
Multi-engine and Agentic AI SQL query router in Rust for all data platforms and lake···
