项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 71
技术标签
核心亮点
- 提供从模型记录到部署的标准化流程，减少工程重复劳动
- 内置模型监控端点，可收集预测日志和性能指标
- 与 MLflow 等工具集成，支持模型版本和元数据管理
不足之处
- 文档/社区待观察
- 项目早期，API 可能不稳定
适用场景
- 数据科学团队需要快速将模型部署为内部 API 服务
- 需要统一管理多个模型的版本和元数据
- 希望为模型增加基础监控能力但不想从零搭建
替代项目
MLflow、Seldon Core、BentoML
下一篇：env-doctor
同类项目推荐
langfuse-docs
开源
一站式调试和优化你的 LLM 应用，从追踪到评估全搞定
Open source agent evals & observability: Trace, evaluate, and improve LLM applicatio···
Olares
开源
把个人设备变成专属 AI 云，让智能体 7x24 小时在线干活
Open-Source Personal Cloud OS for Always-On Agents
worker-comfyui
开源
把 ComfyUI 变成按需付费的 API，秒级调用图像生成
ComfyUI as a serverless API on Runpod
prompt-cache
开源
给 LLM 加个缓存，成本直降 80%，响应快到飞起
Cut LLM costs by up to 80% and unlock sub-millisecond responses with intelligent sem···
recodex
开源
自建 Codex 中转站，轻松管理 AI 请求
Codex中转，可自部署的代理服务
sd-webui-all-in-one
开源
一键安装管理多种AI绘图工具，省去折腾环境
支持安装、下载、启动和管理多种 AI WebUI / 训练工具的一体化项目，提供 Installer、整合···
nexus-llm-router
开源
一个接口接入所有大模型，自动选最优，省钱又省心
Drop-in LLM router and AI gateway speaking OpenAI Chat Completions, OpenAI Responses···
pebblo
开源
加载数据前先过一道安全筛，让 Gen AI 应用安心上线
Pebblo enables developers to safely load data and promote their Gen AI app to deploy···
mlx-omni-server
开源
在 Mac 上本地跑多模态 AI，OpenAI 接口无缝接入
MLX Omni Server is a local inference server powered by Apple's MLX framework, specif···