项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-10-24 · 当前星标 ★ 325
核心亮点
- 本地优先架构，路由与配置留在本机，不额外上传请求内容
- 按任务复杂度分流，把日常代理操作交给低成本模型，直接降低订阅额度消耗
- 对 Codex、Claude Code 等上层工具透明，无需改造现有编码代理工作流
不足之处
- 早期项目，路由规则与模型适配的覆盖面仍有限，复杂任务的分流准确度依赖手工调参
- 文档与社区规模较小，遇到非典型配置时排错资料不足
适用场景
- 个人开发者同时持有多个模型订阅，希望把日常编码代理的额度省下来
- 小团队统一入口管理编码代理的模型调用，控制整体推理成本
- 长时间运行的自动化代理任务，需要把简单步骤与关键推理分开计费
替代项目
LiteLLM、OpenRouter、Portkey Gateway
同类项目推荐
Awesome-MLOPS
开源
一份清单，从零入门到精通 MLOps 全流程。
All the available resources to master MLOPS from scratch
lucebox
开源
消费级显卡也能跑出更快的本地大模型推理
LLM speculative inference server for heterogeneous hardware & consumer GPUs
aisix
开源
用 Rust 打造的统一 AI 网关，一套 API 接入所有主流大模型。
Open-source AI gateway for LLMs & AI agents, built in Rust. One OpenAI-compatible AP···
Sentinel_Guard
开源
给 AI 应用加一道安全网关，拦截注入与越权调用
Security first LLM gateway and guardrails for AI applications, agents and AI powered···
ollama-intel-arc
开源
让 Intel Arc 显卡跑起 Ollama 和 Stable Diffusion，一键部署 AI 全栈。
Make use of Intel Arc Series GPU to Run Ollama, StableDiffusion, Whisper and Open We···
arboric
开源
给 AI 算力开经济模式，省 GPU 跑更多活
The "Economy Mode" for AI Compute
x-stable-diffusion
开源
把 Stable Diffusion 推理压到 0.88 秒，实时出图不是梦。
Real-time inference for Stable Diffusion - 0.88s latency. Covers AITemplate, nvFuser···
zzz-api
开源
免海外账号和银行卡，直接调用 GPT/Claude/Gemini 等大模型 API
企业级稳定的OpenAI、Claude、Gemini等的API接口-For企业和开发者。OpenAI的api proxy，支···
Awesome-Generation-Acceleration
开源
找生成模型加速方案，看这个清单就够了
Collection of awesome generation acceleration resources.