项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 66
技术标签
核心亮点
- 内置模型路由，可自动选择最优模型，降低调用成本
- 提供 OpenAI 兼容 API，迁移成本低，易于集成现有应用
- 支持 MCP 和智能体工具，方便构建复杂 AI 工作流
不足之处
- 项目处于早期，星标仅65，社区活跃度和稳定性待验证
- 文档和示例较少，上手门槛较高
适用场景
- 企业内部统一管理多个 LLM 供应商，实现成本优化和故障转移
- 开发 AI 智能体应用，需要集成工具调用和模型路由
- 构建私有化 AI 后端，确保数据不出内网
替代项目
LiteLLM、OpenRouter、Portkey
下一篇：mxcp
同类项目推荐
mcp-gateway
开源
把 MCP 服务器管起来，K8s 里会话不丢、扩缩容不慌
MCP Gateway is a reverse proxy and management layer for MCP servers, enabling scalab···
inferoxy
开源
一键部署 Docker 化 CV 模型，快速上线推理服务
Service for quick deploying and using dockerized Computer Vision models
tma1
开源
让 AI 代理读取自己的运行日志，自动优化下一轮决策。
Local-first observability your agent reads back. TMA1 records every LLM call, then r···
llmops
开源
用 TypeScript 快速搭建可插拔的 LLM 应用运维工具链
A pluggable LLMOps toolkit for TypeScript applications.
tunnel-client
开源
把本地 MCP 服务安全连到 ChatGPT 等 AI 工具，无需公网暴露
Customer-run client for Secure MCP Tunnel: connect private or localhost MCP servers ···
ultracontext
开源
自动抓取并共享智能体上下文，让多智能体协作不再各说各话。
Open Source Context infrastructure for AI agents. Auto-capture and share your agents···
Axon
开源
终端里实时看穿 LLM 调用链，调试智能体快人一步
OpenTelemetry-native LLM observability CLI. Point any OTEL exporter at it and watch ···
mistral.rs
开源
用 Rust 快速跑大模型，本地部署低延迟
Fast, flexible LLM inference
python-sdk
开源
用 Python 轻松操作 Pinecone 向量库，快速实现向量检索
Official Python SDK for the Pinecone vector database