项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 69
技术标签
核心亮点
- 极简 API，几行代码即可启动模型服务，降低部署门槛
- 自动处理请求/响应转换，减少手写 Flask/FastAPI 样板代码
- 内置健康检查，便于接入容器编排和监控系统
不足之处
- 项目早期，功能覆盖有限，高级特性（如批处理、模型版本管理）缺失
- 文档/社区待观察
适用场景
- 快速为数据科学原型提供演示 API
- 内部工具中轻量部署单模型服务
- 教学或实验环境验证模型部署流程
替代项目
MLflow、Seldon Core、BentoML
上一篇：mloperator
下一篇：mlinfra
同类项目推荐
popmon
开源
自动监控数据漂移，及时预警异常变化
Monitor the stability of a Pandas or Spark dataframe ⚙︎
mlops-stacks
开源
在 Databricks 上，几分钟生成生产级 ML 项目骨架。
This repo provides a customizable stack for starting new ML projects on Databricks t···
agentsight
开源
用 eBPF 透视 AI Agent 的系统行为，无侵入定位问题
lightweight system-level observability for AI Agents
vllm-rlt
开源
给循环 Transformer 做循环级调度的推理引擎
A vLLM-inspired inference engine for looped transformers, with loop-level scheduling···
inferoxy
开源
一键部署 Docker 化 CV 模型，快速上线推理服务
Service for quick deploying and using dockerized Computer Vision models
Portainer 容器管理面板
开源
Docker 可视化管理面板
Making Docker and Kubernetes management easy.
mcp-context-forge
开源
统一网关聚合 MCP/A2A/REST，让 Agent 调用更安全可控。
An AI Gateway, registry, and proxy that sits in front of any MCP, A2A, or REST/gRPC ···
agent-vault
开源
给 AI 代理一个安全的凭证保险库，告别硬编码密钥
A HTTP credential proxy and vault for AI agents like Claude Code, OpenClaw, Hermes, ···
ggml
开源
轻量级 C++ 张量库，让大模型在本地设备流畅跑起来
Tensor library for machine learning