项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 239
核心亮点
- 上下文感知路由，根据任务动态选择最优模型，提升响应质量
- 与主流智能体框架和工具（Claude Code、Codex）无缝集成
- 内置可观测性和安全护栏，便于监控和治理
不足之处
- 早期项目，文档和社区生态待观察
适用场景
- 多模型混合调度的智能体应用开发
- 需要动态平衡成本与质量的 AI 产品生产环境
- 对模型输出稳定性有高要求的企业级工作流
替代项目
OpenRouter、LiteLLM、Martian
上一篇：chmonitor
下一篇：Trae-Proxy
同类项目推荐
beta9
开源
让 GPU 推理快如闪电，秒级启动，按需付费
Ultrafast serverless GPU inference, sandboxes, and background jobs
ray
开源
把 Python 代码一键变成分布式，搞定大规模 AI 训练和部署
Ray is an AI compute engine. Ray consists of a core distributed runtime and a set of···
KVzip
开源
长文本推理显存直降4倍，延迟减半，即插即用
[NeurIPS'25 Oral] Query-agnostic KV cache eviction: 3–4× reduction in memory and 2···
build-and-deploy-real-time-featu···
开源
用Python快速搭建实时特征管道，让模型用上最新数据。
Develop and deploy a real-time feature pipeline in Python, using Bytewax and Hopswo···
vllm
开源
同一个模型跑出几倍速度，机器成本省一半
A high-throughput and memory-efficient inference and serving engine for LLMs
tma1
开源
让 AI 代理读取自己的运行日志，自动优化下一轮决策。
Local-first observability your agent reads back. TMA1 records every LLM call, then r···
litellm-pgvector
开源
把 LiteLLM 日志变成可搜索的向量库，快速挖掘调用模式
dolt
开源
像 Git 管代码一样管数据库，分支合并回滚全搞定
Dolt – Git for Data
modal-examples
开源
一键跑通云端 GPU 任务，从示例到生产部署
Examples of programs built using Modal