portkey-python-sdk 是基础设施领域的开源项目,由 Portkey-AI 开发,2023 年首次发布。
它收录于基础设施分类,该分类目前共有 1,130 个项目,GitHub 星标数为 119。
项目仍在小幅维护中,最近一次代码更新于 2026-08-26。MIT许可证,完全免费,无付费版本。
它主要面向的使用场景是:需要对接多个AI提供商的后端服务。同类可对比的替代方案包括 LangChain、LiteLLM、OpenAI Python SDK。

一键接入多模型,让 AI 应用稳定又安全
Portkey Python SDK 是一个用于构建可靠、安全且生产级 AI 应用的开发工具包。它解决了开发者在集成多种大语言模型(LLM)时面临的复杂性、可靠性及安全性问题。该 SDK 提供了统一的接口来调用不同 AI 提供商(如 OpenAI、Anthropic 等),支持请求重试、超时控制、负载均衡、缓存、观测性(日志、追踪)以及安全防护(如 API 密钥管理)。通过简单的配置,开发者可以快速接入多个模型,并实现故障转移和优雅降级,从而提升应用的稳定性和用户体验。核心能力包括:多提供商抽象、智能路由、可观测性集成、以及安全策略实施。它旨在简化 AI 应用的开发流程,让开发者专注于业务逻辑而非底层基础设施。
LangChain、LiteLLM、OpenAI Python SDK
portkey-python-sdk 是基础设施领域的开源项目,由 Portkey-AI 开发,2023 年首次发布。
它收录于基础设施分类,该分类目前共有 1,130 个项目,GitHub 星标数为 119。
项目仍在小幅维护中,最近一次代码更新于 2026-08-26。MIT许可证,完全免费,无付费版本。
它主要面向的使用场景是:需要对接多个AI提供商的后端服务。同类可对比的替代方案包括 LangChain、LiteLLM、OpenAI Python SDK。
freebuff-proxy
开源
聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型,免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···