portkey-python-sdk

一键接入多模型,让 AI 应用稳定又安全

Portkey Python SDK 是一个用于构建可靠、安全且生产级 AI 应用的开发工具包。它解决了开发者在集成多种大语言模型(LLM)时面临的复杂性、可靠性及安全性问题。该 SDK 提供了统一的接口来调用不同 AI 提供商(如 OpenAI、Anthropic 等),支持请求重试、超时控制、负载均衡、缓存、观测性(日志、追踪)以及安全防护(如 API 密钥管理)。通过简单的配置,开发者可以快速接入多个模型,并实现故障转移和优雅降级,从而提升应用的稳定性和用户体验。核心能力包括:多提供商抽象、智能路由、可观测性集成、以及安全策略实施。它旨在简化 AI 应用的开发流程,让开发者专注于业务逻辑而非底层基础设施。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 119
维护状态 维护中
是否开源 是
定价模式 free

项目数据

分类基础设施
开发团队Portkey-AI
所属国家
定价模式free
价格说明开源项目,MIT许可证,完全免费,无付费版本。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai-gateway,llmops,llms,mlops,portkey
GitHub 星标★ 119
30天Star增速
HF 下载量
上线时间2023-08-28 00:00:00
最近更新2026-08-26 00:00:00
维护状态维护中
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数5

使用教程

核心亮点

  • 统一接口对接多家主流 LLM,切换模型零成本
  • 内置重试、超时和负载均衡,提升应用稳定性
  • 提供可观测性集成,方便调试和监控 AI 调用

不足之处

  • 项目早期,文档和社区生态待观察
  • 功能覆盖可能不如 LangChain 等成熟框架全面

适用场景

  • 需要对接多个 AI 提供商的后端服务
  • 对 AI 调用可靠性和安全性要求高的生产环境
  • 快速搭建 AI 应用原型并希望保留扩展性

替代项目

LangChain、LiteLLM、OpenAI Python SDK

项目介绍

portkey-python-sdk 是基础设施领域的开源项目,由 Portkey-AI 开发,2023 年首次发布。

它收录于基础设施分类,该分类目前共有 1,130 个项目,GitHub 星标数为 119。

项目仍在小幅维护中,最近一次代码更新于 2026-08-26。MIT许可证,完全免费,无付费版本。

它主要面向的使用场景是:需要对接多个AI提供商的后端服务。同类可对比的替代方案包括 LangChain、LiteLLM、OpenAI Python SDK。

上一篇:heron

下一篇:llmaker

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···

★ 213 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09