GPTRouter

一个接口管所有大模型，自动切换保稳定，响应提速不宕机。

GPTRouter 是一个面向多 LLM 与图像模型统一管理的开源基础设施，用 TypeScript 编写。它解决了企业在同时接入 OpenAI、Anthropic、Azure 等多个大语言模型以及 Dall-E、SDXL 等图像模型时面临的接口碎片化、响应速度不稳定和单点故障问题。核心能力包括：统一 API 路由，让开发者通过一个接口调用不同供应商的模型；智能负载均衡与自动重试，当某个供应商故障或限流时自动切换到备用模型，保障服务连续性；响应缓存与流式传输优化，降低延迟并加快首 token 返回速度；还提供可观测性指标，帮助监控各模型的使用成本与性能。项目目前处于早期阶段，星标 455，适合需要构建高可用、多供应商 AI 服务的团队作为基础组件。