guidance-for-multi-provider-generative-ai-gateway-on-aws

一套 OpenAI 风格接口，统一调用 AWS 上多家大模型

这是一个面向 AWS 的多模型生成式 AI 网关参考方案，用 HCL（Terraform/CDK）部署一套统一 API 层，把 Amazon Bedrock、SageMaker 等不同来源的大模型收敛到兼容 OpenAI API 规范的接口后面。它解决的核心问题是：企业接入多个 LLM 供应商时，SDK、鉴权、限流、日志、计费口径各不相同，业务代码被供应商绑定，切换模型要改代码。项目提供 API 网关 + Lambda 的转发层，统一请求/响应格式，集中做密钥管理、用量统计、访问控制与可观测性，让上层应用只写一次 OpenAI 风格调用即可切换后端模型。作为 AWS 官方 Guidance，它更偏架构最佳实践与可落地模板，而非开箱即用的 SaaS 产品，适合作为企业自建 AI 网关的起点。