项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 155
核心亮点
- 整合 LiteLLM 和 Langfuse，开箱即用，避免自行集成多个工具的繁琐
- 模块化设计，各组件可独立替换，灵活适配不同业务需求
- 内置成本控制与高可用路由，适合生产环境直接部署
不足之处
- 项目处于早期阶段（145 星），文档和社区生态尚待完善
- 依赖第三方服务（LiteLLM 和 Langfuse），可能受上游更新影响
适用场景
- 快速搭建 LLM 应用的可观测性与成本管理基础设施
- 多模型接入场景下，统一 API 路由和负载均衡
- 需要提示词版本管理和效果评估的 LLM 产品迭代
替代项目
LangChain、Helicone、PromptLayer
上一篇：bella-openapi
下一篇：heron
同类项目推荐
agentcat-typescript-sdk
开源
给 MCP 服务器装上监控，一眼看清工具调用数据
AgentCat is an analytics platform for MCP server owners .
sd4j
开源
Java 里跑 Stable Diffusion，无需 Python，直接集成图像生成
Stable diffusion pipeline in Java using ONNX Runtime
ncnn
开源
手机端跑深度模型，快、小、零依赖
ncnn is a high-performance neural network inference framework optimized for the mobi···
darwin
开源
一站式管理 ML 模型，从实验到上线更省心
ML Platform at Dream11
GUNDAM
开源
用语言模型自动给数据排优先级，让系统先处理最重要的。
GUNDAM is a data management system that prioritizes data using language models.
pooled
开源
多台设备浏览器组队，本地跑大模型聊天写代码
Peer-to-peer LLM inference in the browser: pool your devices to run big open models,···
lance
开源
两行代码转换 Parquet，让多模态 AI 数据访问快 100 倍
Open Lakehouse Format for Multimodal AI. Convert from Parquet in 2 lines of code for···
serving-pytorch-models
开源
用 TorchServe 把 PyTorch 模型快速变成线上 API
Serving PyTorch models with TorchServe :fire:
voiceblender
开源
用 API 快速搭建语音 AI 应用，通话、混音、识别全搞定。
A programmable Voice AI platform: SIP and WebRTC call control, multi-party mixing, r···