inference

一行代码部署视觉模型，让任何设备秒变 CV 指挥中心

开源 🏷️定价信息待确认 ✅ 目前可打开基础设施 🍴 复刻 339 🐛 待处理 241 👀 关注 29

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 2488

维护状态活跃

是否开源开源

定价模式 🏷️定价信息待确认

项目预览

项目数据

分类基础设施

开发团队roboflow

官网地址https://inference.roboflow.com

GitHubhttps://github.com/roboflow/inference

定价模式🏷️定价信息待确认

价格说明定价信息待确认

访问状态✅ 目前可打开

是否开源是

开源协议NOASSERTION

主要语言Python

技术栈/模型agents,classification,computer-vision,deployment,docker,inference,inference-api,inference-server,instance-segmentation,jetson,machine-learning,object-detection,onnx,python,tensorrt,vit,yolo11,yolov12,yolov5,yolov8

GitHub 星标★ 2488

上线时间2023-07-31 00:00:00

代码更新2026-11-07

仓库体积489.6 MB

本站数据更新2026-11-09

维护状态活跃

收录时间2026-08-10

浏览次数7

项目介绍

inference 是一个将任何计算机或边缘设备转变为计算机视觉项目指挥中心的开源工具。它解决了视觉模型从开发到生产部署的复杂性问题，提供统一的推理 API，支持图像分类、目标检测、实例分割等任务。核心能力包括：通过简单的 Python 接口或 REST API 快速部署模型，内置对 Roboflow 模型格式的支持，可轻松集成到现有工作流；支持 Docker 容器化部署，便于在云端、边缘设备或本地环境运行；提供模型管理、版本控制和性能监控功能，帮助开发者高效管理视觉应用。它旨在降低计算机视觉应用的门槛，让开发者专注于业务逻辑而非底层基础设施。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 2488

技术标签

agents classification computer-vision deployment docker

使用教程

难度：入门约 10 分钟部署方式：Docker 5 步

环境要求

已安装 Docker（参考 https://docs.docker.com/engine/install/）
Python 环境与 pip（用于安装 inference-cli）
若使用 CUDA 显卡加速，需安装 NVIDIA Container Toolkit
本机 9001 端口可被占用（开发模式 notebook 默认端口）

安装与启动步骤

1安装 Docker

Inference 以容器方式运行，必须先装好 Docker。GPU 用户再照文档装 NVIDIA Container Toolkit。
2安装 inference-cli

用 pip 安装官方命令行工具，后续由它自动拉取并启动匹配你机器的镜像。
```
pip install inference-cli
```
3启动推理服务

该命令会自动选择最优容器并以开发模式启动，首次运行需拉取镜像，耗时较长。
```
inference server start --dev
```
4打开快速上手

开发模式会在 9001 端口启动带快速入门指南的 Jupyter 服务，浏览器访问即可体验功能。
5接入摄像头与工作流

连接摄像头视频流，或在 Roboflow Workflows UI 中构建部署工作流，也可直接调用服务 API。