router

换一个端点,50 毫秒内自动选对模型,成本直降 70%

开源 🏷️定价信息待确认 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 166 🐛 待处理 219 👀 关注 2
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 5617
维护状态 活跃
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

router 项目界面预览图
图片来源:项目官网

项目数据

分类基础设施
开发团队weave-os
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Go
技术栈/模型agentic-coding,ai-gateway,anthropic,claude-code,codex,model-router,openai-compatible
GitHub 星标★ 5617
上线时间2026-04-27 00:00:00
代码更新2026-11-09
仓库体积35.8 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数4

项目介绍

router 是一个面向智能体系统的大模型路由基础设施,用 Go 编写。它解决的核心问题是:在复杂的多模型环境中,如何为每个请求自动选择最合适、最具性价比的模型。它通过一个轻量级端点替换,在不到 50 毫秒内完成路由决策,可将成本降低 40-70%。核心能力包括:实时监控各模型的表现与成本,基于策略和上下文动态路由,支持多种主流模型提供商,并提供统一的 API 接口。它特别适合需要平衡性能与成本的规模化 AI 应用,让开发者无需硬编码模型选择,即可实现智能调度与成本优化。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 5617

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:入门 约 5 分钟 部署方式:命令行工具 6 步

环境要求

  • Node.js ≥ 18(安装器基于 npx 运行)
  • 使用 Claude Code、opencode 或 pi 路径时,本机需安装 jq
  • 可访问 npm 源与托管的 Weave Router 服务
  • 若使用 --local 自托管模式,本机需能监听 localhost:8080

安装与启动步骤

  1. 1检查 Node 版本

    安装器通过 npx 运行,必须先确认本机 Node 版本不低于 18;版本过低请先升级 Node。

    node -v
  2. 2一键接入路由器

    运行交互式安装器,选择 Claude Code、Codex、opencode 或 pi,选择作用范围并自动获取 router key 并写入配置。

    npx @weave-os/router
  3. 3跳过选择器直连

    已知所用工具时,可用对应参数跳过交互选择,直接为指定工具写配置。

    npx @weave-os/router --claude
    npx @weave-os/router --codex
    npx @weave-os/router --opencode
    npx @weave-os/router --pi
  4. 4设为项目级配置

    使用 project 范围时,配置写入当前仓库(settings.json、.codex/ 或 opencode.json),会被提交,注意别泄露 key。

    npx @weave-os/router --scope project
  5. 5切换自托管模式

    使用 --local 改为自托管,服务在本机 localhost:8080 上运行,不再走托管服务。

    npx @weave-os/router --local
  6. 6指向自建地址/固定版本

    内网部署时用 --base-url 指向自有路由器地址;也可指定版本号避免自动升级。

    npx @weave-os/router --base-url https://router.acme.internal
    npx @weave-os/router@0.1.0

如何确认成功

安装器执行完毕后会为所选工具写好配置文件并获取到 router key;用 --local 时服务监听本地 localhost:8080。

常见问题

Q:运行 npx 提示 Node 版本不满足怎么办?

A:安装器要求 Node ≥ 18,请先升级 Node 后再重新执行 npx @weave-os/router。

Q:使用 Claude Code、opencode 或 pi 时报缺少 jq 怎么办?

A:这几条路径依赖 jq,请先在系统上安装 jq 再重新运行安装器。

Q:安装器会改动我的代码仓库吗?

A:默认不会;只有显式使用 --scope project 时才会把配置写入仓库内的 settings.json、.codex/ 或 opencode.json。

Q:不想用托管服务可以吗?

A:可以,加 --local 参数改为自托管,服务在本机 localhost:8080 运行。

Q:原来的包名还能用吗?

A:可以,旧包名 @workweave/router 仍作为兼容别名保留,且与 @weave-os/router 发布相同版本。

注意事项

  • npm 包名为 @weave-os/router,旧名 @workweave/router 为兼容别名,发布内容一致。
  • README 提到建议设置 dashboard 密码:不设密码推理仍能运行,但为安全起见应设置。
  • --scope project 会把配置提交进仓库,注意不要泄露 router key。
  • 以上命令均来自 README 的 30-second quickstart,完整参数见 install/npm/README.md。

核心亮点

  • 极速路由:50ms 内完成决策,几乎无感知延迟
  • 显著降本:通过智能选择低价模型,实测节省 40-70% 成本
  • 接入简单:只需更换 API 端点,无需改动业务逻辑

不足之处

  • 早期项目,生态和文档尚不完善
  • 仅支持 Go 语言,非 Go 技术栈需额外适配

适用场景

  • 多模型 A/B 测试与灰度发布
  • 高并发场景下动态平衡成本与响应质量
  • 智能体系统需要按任务复杂度自动分配模型

替代项目

LiteLLM、OpenRouter、Martian

上一篇:copilot-api

下一篇:ThinkWatch

同类项目推荐

claude-tap 开源

本地拦截 AI 编程代理流量,可视化调试每个 API 调用

Intercept and inspect Coding Agent API traffic from Claude Code, Codex CLI, Gemini C···

★ 3329 2026-08-09
gpu-telemetry 开源

一个代理,让每块 GPU 的消耗都精确到 Pod 或作业

GPU Observability with workload attribution. One OTLP agent per node ties hardware m···

★ 77 2026-08-09
recipes 开源

照抄配方,几分钟跑通 vLLM 推理服务

Common recipes to run vLLM

★ 1085 2026-10-14
d-inference 开源

把闲置 Mac 组成私有推理集群

Private Inference Network on Idle Macs

★ 573 2026-10-25
dante-cloud 开源

一套代码灵活切换微服务与单体,安全合规的云原生基座。

Dante Cloud 是支持阻塞式与响应式服务并行的微服务云原生基座和面向AI Agent开发的智能基···

★ 969 2026-08-09
sagemaker-python-sdk 开源

几行 Python 把模型训练部署到 AWS 云端

A library for training and deploying machine learning models on Amazon SageMaker

★ 2272 2026-10-12
tensorlake 开源

一键部署智能体后台任务,沙箱安全执行代码

Tensorlake is a serverless runtime for sandboxes and deploying background agentic ap···

★ 1044 2026-08-09
tensorrtllm_backend 开源

在 Triton 上直接跑 TensorRT-LLM,省去自研推理服务

The Triton TensorRT-LLM Backend

★ 944 2026-10-06
metabase 开源

让不懂 SQL 的同事也能轻松做数据分析,五分钟搭建团队 BI 看板

The easy-to-use open source Business Intelligence and Embedded Analytics tool that l···

★ 50246 2026-08-29