项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-15 · 当前星标 ★ 268
核心亮点
- 统一为 OpenAI API 规范，现有 OpenAI SDK 代码几乎零改动即可切换到 Bedrock/SageMaker 后端
- 基于 AWS 原生服务（API Gateway、Lambda、IAM）部署，密钥与访问控制走 IAM，无需自建鉴权体系
- 作为官方 Guidance 提供完整 IaC 模板与架构说明，可直接作为企业 AI 网关的落地起点
不足之处
- 仅覆盖 AWS 生态内的模型，跨云或本地模型接入需要自行扩展
- 以参考架构形式交付，缺少开箱即用的运维面板与多租户配额管理
适用场景
- 企业内多个团队需要统一入口调用不同 LLM，避免各自申请密钥、各自对接 SDK
- 已有基于 OpenAI SDK 的应用，希望低成本切换到 Bedrock 上的模型以控制成本或满足合规
- 需要对模型调用做集中审计、限流和用量统计的 AWS 环境
替代项目
LiteLLM、Portkey AI Gateway、Kong AI Gateway
上一篇：TensorRT-LLM
下一篇：rainbond
同类项目推荐
moss
开源
不用向量数据库，10毫秒内搞定AI检索
The retrieval layer for production AI systems. Lightning-fast (<10ms) search without···
antirion
开源
一个 Rust 二进制统一管住所有大模型调用
️ The fastest open-source AI Gateway and LLM Gateway — one binary with built-in co···
superlog
开源
AI代理自动修故障，软件自愈省心
Open-source observability tool that uses AI agents to self-heal your software
Your-First-LLM-Studio
开源
在 Mac 上本地跑、比、测多个大模型，一站式搞定
First LLM Studio: local-first LLM workbench for Apple Silicon + MLX. 本地优先 LLM 工···
sd4j
开源
Java 里跑 Stable Diffusion，无需 Python，直接集成图像生成
Stable diffusion pipeline in Java using ONNX Runtime
clawk
开源
给 AI 编码代理一个一次性 Linux 虚拟机，保护你的电脑。
Give coding agents a disposable Linux VM, not your laptop
VibeGuard
开源
用1%内存开销，在AI对话前自动脱敏，守住隐私底线
Uses just 1% memory while protecting 99% of your personal privacy.
free-ai
开源
免费获取 OpenAI 兼容 API，50+ 模型免费用
FreeTheAI: free AI API and open model marketplace. One OpenAI-compatible endpoint at···
IAGA-Sentinel
开源
给AI智能体装个哨兵，实时监控安全与行为
IAGA Sentinel sits next to your AI agents and answers the one question the agent its···