项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 134
核心亮点
- 兼容 OpenAI 和 Gemini 接口，迁移成本低
- 自动故障转移和密钥调度，提升可用性
- 加密存储凭据，保障密钥安全
不足之处
- 文档/社区待观察
- 早期项目，功能稳定性待验证
适用场景
- 多模型聚合调用，统一管理密钥
- 生产环境 LLM 高可用，避免单点故障
- 团队内部共享 LLM 资源，权限控制
替代项目
LiteLLM、OpenRouter、Portkey
上一篇：genai-api
下一篇：litellm-rs
同类项目推荐
ollama-swift
开源
Swift 项目一键接入本地 Ollama 大模型
A Swift client library for interacting with Ollama. Supports structured outputs, too···
Ollama-For-AMD-Installer
开源
AMD 显卡一条命令装好 Ollama，直接跑本地大模型
This project simplifies the installation process of likelovewant's library, making i···
afm-Server
开源
把苹果设备端模型变成本地 OpenAI API，一键调用
macOS menu bar app that exposes Apple's on-device Foundation Models as an OpenAI-com···
langsmith-sdk
开源
给 LLM 应用装上黑匣子，调用全记录、效果可对比
This repo was archived on Oct 16, 2026. Python SDK moved to langchain-ai/langsmith-p···
hummingbird
开源
消费级硬件上跑超大 MoE 模型，统一内存调度
hummingbird is a lightweight, zero dependency runtime for massive open source Mixtur···
webclaw
开源
本地快速抓网页，一键转 Markdown 喂给大模型
Fast, local-first web content extraction for LLMs. Scrape, crawl, extract structured···
ipex-llm
开源
让 Intel 电脑也能流畅跑大模型，推理微调一步到位
Accelerate local LLM inference and finetuning (LLaMA, Mistral, ChatGLM, Qwen, DeepSe···
TensorRT-Model-Connect
开源
两条命令把 PyTorch 模型跑成 TensorRT 推理
From PyTorch model to end-to-end TensorRT inference experience in two commands—AI-n···
voyageai-python
开源
一行代码接入顶级文本嵌入和重排序，让语义搜索更准。
Voyage AI Official Python Library