inferoxy 是基础设施领域的开源项目，由 eora-ai 开发，2021 年首次发布。
它收录于基础设施分类，该分类目前共有 1,130 个项目，GitHub 星标数为 95。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2025-10-07。GPL-3.0许可证，可自行部署使用，无付费版本。
它主要面向的使用场景是：快速搭建计算机视觉模型演示环境。同类可对比的替代方案包括 Seldon Core、KFServing、TorchServe。
inferoxy
一键部署 Docker 化 CV 模型，快速上线推理服务
inferoxy 是一个用于快速部署和使用 Docker 化计算机视觉模型的服务。它解决了 AI 模型从训练到生产环境部署过程中面临的复杂性和高成本问题，提供了一种轻量级、可扩展的推理服务方案。核心能力包括：通过 Docker 容器封装模型，实现环境隔离和快速部署；提供统一的 API 接口，方便应用集成；支持多种主流计算机视觉模型，如 YOLO、OpenCV 等；具备自动扩展功能，可根据请求量动态调整资源。项目基于 Python 构建，利用 Docker 和 Kubernetes 生态，简化了模型服务的运维流程。
开源
free
基础设施
GitHub 星标
★ 95
维护状态
低维护
是否开源
是
定价模式
free
项目数据
分类基础设施
开发团队eora-ai
所属国家
定价模式free
价格说明开源项目，GPL-3.0许可证，可自行部署使用，无付费版本。
访问状态
是否开源是
开源协议GPL-3.0
主要语言Python
技术栈/模型computer-vision,machine-learning,mlops,pipelines,python
GitHub 星标★ 95
30天Star增速
HF 下载量
上线时间2021-05-28 00:00:00
最近更新2025-10-07 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数7
使用教程
核心亮点
- 基于 Docker 容器，环境隔离彻底，部署迁移方便
- 提供统一 REST API，集成简单，支持多种 CV 模型
- 支持自动扩展，能应对流量波动，降低运维成本
不足之处
- 项目早期，文档和社区生态尚不完善
- 功能相对单一，主要面向推理服务，训练支持有限
适用场景
- 快速搭建计算机视觉模型演示环境
- 在边缘或云环境部署轻量级推理服务
- 为内部应用提供统一的 CV 模型调用接口
替代项目
Seldon Core、KFServing、TorchServe
项目介绍
上一篇：ml_in_production
下一篇：krsh
同类项目推荐
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···