项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 128
核心亮点
- 兼容主流 SDK，无需重写代码即可接入
- 内置缓存、重试、熔断等生产级稳定性功能
- Python/TypeScript/Rust 多语言支持，便于统一架构
不足之处
- 文档/社区待观察
- 早期项目，生态和案例较少
适用场景
- 多模型切换的 A/B 测试或降级场景
- 高并发 LLM 调用需要缓存和限流保护
- 跨语言团队需要统一 LLM 调用行为
替代项目
LiteLLM、OpenAI SDK、LangChain
同类项目推荐
awesome-production-machine-learn···
开源
一站式找到ML生产落地所需的所有开源工具
A curated list of awesome open source libraries to deploy, monitor, version and scal···
aqueduct
开源
在任意云上跑LLM和ML工作负载，但已停更
Aqueduct is no longer being maintained. Aqueduct allows you to run LLM and ML worklo···
Deepseek-API
开源
把 DeepSeek 对话封装成 OpenAI 兼容接口，改个地址就能用
Reverse engineered Deepseek chat into an OpenAI compatible API. Access V4 and R1 mod···
chromem-go
开源
Go 项目内嵌向量数据库，零依赖实现本地语义搜索
Embeddable vector database for Go with Chroma-like interface and zero third-party de···
tokenspeed
开源
让大模型在现有硬件上跑出光速级 token 生成速度
TokenSpeed is a speed-of-light LLM inference engine.
mistral.rs
开源
用 Rust 快速跑大模型，本地部署低延迟
Fast, flexible LLM inference
ggml
开源
轻量级 C++ 张量库，让大模型在本地设备流畅跑起来
Tensor library for machine learning
openclaw-dashboard
开源
一条命令起面板，看清每个 AI 智能体花了多少钱
A beautiful, zero-dependency command center for OpenClaw AI agents
postgres
开源
最可靠的开源关系型数据库，搞定复杂数据场景
Mirror of the official PostgreSQL GIT repository. Note that this is just a *mirror* ···