项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 256
核心亮点
- 覆盖国内外主流大模型（OpenAI、Claude、Gemini、国产模型等），统一 API 格式，接入成本低
- Go 语言实现，性能高、资源占用少，适合高并发场景
- Docker 一键部署，自带简洁管理界面，运维简单
不足之处
- 项目处于早期阶段（269 星），功能完整性和稳定性待验证
- 文档和社区生态相对薄弱，遇到问题可参考资源有限
适用场景
- 企业内部统一管理多个 LLM API 密钥，集中监控用量与成本
- 开发者需要将应用快速从 OpenAI 切换到其他模型或进行多模型负载均衡
- 中小团队搭建轻量级 AI 网关，避免重复开发集成逻辑
替代项目
one-api、new-api、LiteLLM
同类项目推荐
ml_in_production
开源
看多种ML模型部署方式，选型不踩坑
A set of demo of deploying a Machine Learning Model in production using various meth···
mcp-gateway
开源
把 MCP 服务器管起来，K8s 里会话不丢、扩缩容不慌
MCP Gateway is a reverse proxy and management layer for MCP servers, enabling scalab···
inferoxy
开源
一键部署 Docker 化 CV 模型，快速上线推理服务
Service for quick deploying and using dockerized Computer Vision models
rushdb
开源
推送 JSON，秒得可搜索、带关系的 AI 记忆库
RushDB is a self-describing, graph-native database that helps AI agents reason over ···
ChatMock
开源
用 Codex 引擎替换 OpenAI API，一行配置即享新能力
OpenAI & Ollama compatible API powered by Codex
litellm-rs
开源
用 Rust 实现的高性能 AI 网关，一行代码切换 100+ 大模型
Self-hosted Rust LLM gateway with OpenAI-compatible APIs, load balancing, failover, ···
dkg-engine
开源
把可信知识搬上区块链，让数据共享可验证、可追溯
OriginTrail Decentralized Knowledge Graph network node
awesome-open-source-data-enginee···
开源
一张清单，搞定数据工程选型
A curated list of open source tools used in analytics platforms and data engineering···
krsh
开源
声明式配置，一键部署和管理 KubeFlow 环境
A declarative KubeFlow Management Tool