项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 242
核心亮点
- 覆盖聊天、向量、语音、图像等主流 AI 能力，接口统一，减少对接成本
- 内置计费与限流，可直接用于生产环境的资源管控
- 基于 Java 开发，适合 Java 技术栈团队集成和二次开发
不足之处
- 项目较新，社区生态和文档完善度待观察
- 与 OpenRouter 等成熟项目相比，知名度低，第三方集成案例较少
适用场景
- 企业内部需要统一接入多家 AI 服务并集中计费
- 构建 AI 应用平台，需要提供多种 AI 能力给下游开发者
- 需要对 AI 调用进行限流和资源配额管理的场景
替代项目
OpenRouter、LiteLLM、One API
上一篇：gateway
下一篇：oss-llmops-stack
同类项目推荐
pezzo
开源
一站式管理提示词，让 LLM 应用开发、发布和监控更高效。
️ Open-source, developer-first LLMOps platform designed to streamline prompt design···
generative-ai-arbitrage
开源
花三成钱，调用同一批顶级视频图像音乐模型
A curated list showing how to access the exact same top-tier generative AI models (v···
LLM-Tools
开源
输入模型参数，秒算 GPU 显存和硬件需求
Open-source calculator for LLM system requirements.
Olares
开源
把个人设备变成专属 AI 云，让智能体 7x24 小时在线干活
Open-Source Personal Cloud OS for Always-On Agents
kfp-tekton
开源
用KFP写流水线，跑在Tekton上，无缝迁移
Kubeflow Pipelines on Tekton
CPA-Manager-Plus
开源
自托管AI网关监控面板，管好每次API调用和成本
A self-hosted CPA / CLIProxyAPI management panel and AI gateway observability dashbo···
MoE-Infinity
开源
把 MoE 大模型塞进小显存，推理快还省钱
PyTorch library for cost-effective, fast and easy serving of MoE models.
postgresml
开源
在 PostgreSQL 里直接跑机器学习，用 SQL 搞定 AI 应用
Postgres with GPUs for ML/AI apps.
llm-inference-solutions
开源
一张清单，搞定LLM推理选型
A collection of all available inference solutions for the LLMs