inferoxy
一键部署 Docker 化 CV 模型，快速上线推理服务
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 95
核心亮点
- 基于 Docker 容器，环境隔离彻底，部署迁移方便
- 提供统一 REST API，集成简单，支持多种 CV 模型
- 支持自动扩展，能应对流量波动，降低运维成本
不足之处
- 项目早期，文档和社区生态尚不完善
- 功能相对单一，主要面向推理服务，训练支持有限
适用场景
- 快速搭建计算机视觉模型演示环境
- 在边缘或云环境部署轻量级推理服务
- 为内部应用提供统一的 CV 模型调用接口
替代项目
Seldon Core、KFServing、TorchServe
上一篇：ml_in_production
下一篇：krsh
同类项目推荐
backburner
开源
插上 iPhone，Mac 本地跑 27B 大模型
Your iPhone helps your Mac run a 27B model: faster prompt reading and more context o···
ai
开源
用 Stripe 打通 AI 产品从开发到收费的全流程，快速上线赚钱。
One-stop shop for building AI-powered products and businesses with Stripe.
dstack
开源
一套编排，跑遍所有GPU环境，训练推理不发愁
A unified orchestration layer for heterogeneous AI compute. It standardizes how to m···
llm-gateway
开源
一套接口接所有大模型，Agent 换供应商不用改代码
Open Source LLM Gateway
yantr
开源
自托管 AI 应用商店，一站式安装管理你的 AI 工具
A self-hosted homelab app store for rootless Podman — runs alongside your OS, not i···
cx-cli
开源
在终端直接查 Coralogix 日志与指标
This is the Coralogix CLI
vectordbz
开源
可视化连接与管理向量数据库，调试搜索不再靠命令行
A modern desktop application for exploring, managing, and analyzing vector databases
ollama-helm
开源
一条 helm 命令，把 Ollama 大模型服务部署进 K8s 集群
Helm chart for Ollama on Kubernetes
skald
开源
把 AI 上下文管起来，让应用更聪明更省钱
Context layer platform in your infrastructure