项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 304
核心亮点
- 支持 OpenAI、Claude、Gemini 等 10+ 主流模型，统一 API 格式，切换零成本
- Go 语言实现，高并发低资源占用，适合生产环境部署
- Docker 一键部署，降低企业私有化落地门槛
不足之处
- 项目早期，社区和文档尚不完善
- 高级功能（如实时语音）的稳定性待验证
适用场景
- 企业内部多模型统一接入与路由
- 需要私有化部署的 LLM 网关场景
- 快速搭建多模型 API 聚合服务
替代项目
one-api、LiteLLM、OpenRouter
上一篇：fastapi-admin
下一篇：codex-lb
同类项目推荐
ezdata
开源
连接 60+ 数据源，AI 自动查询、绘图、分析，让数据开口说话。
AI-native data platform: 60+ connectors, dlt-based ETL, DAG scheduling, per-source R···
TriviumDB
开源
一个内核搞定向量、图、文档，写入即用
A lightweight embedded database engine that natively fuses vector search, graph, and···
kvcached
开源
让 GPU 显存像云硬盘一样弹性共享，多模型推理不再浪费缓存。
Virtualized Elastic KV Cache for Dynamic GPU Sharing and Beyond
vox-serve
开源
让 TTS/STS 模型秒变低延迟流式在线服务
A Streaming-Native Serving Engine for TTS/STS Models
openai
开源
兼容 OpenAI 调用方式，请求时自动完成链上按次付费
Drop-in OpenAI Typescript client with transparent x402 payment support.
dify-google-cloud-terraform
开源
在 Google Cloud 上快速部署生产级 Dify，自动搞定高可用和弹性伸缩。
Terraform configuration for deploying Dify on Google Cloud with scalability, high av···
quokka
开源
让数据湖高效处理时序数据，写入查询都快
Making data lake work for time series
SageAttention
开源
渲染提速好几倍，出片快人一步
[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention achieves speedup of ···
xvc
开源
用 Rust 快速管理 ML 数据和流水线，像 Git 一样追踪大文件
A robust () and fast () MLOps tool for managing data and pipelines in Rust ()