deepdetect

一键部署深度学习模型，提供高性能推理服务

deepdetect 是一个开源的深度学习服务器和命令行工具，最初由 Jolibrain 开发，旨在简化深度学习模型的部署和服务化。它支持多种深度学习框架，包括 Caffe、Torch 和 TensorRT，并提供了 RESTful API，使得用户可以通过 HTTP 请求轻松调用模型进行推理。deepdetect 的核心能力涵盖图像分类、目标检测、图像分割、图像搜索等计算机视觉任务，同时也支持文本分类等自然语言处理任务。它解决了从模型训练到生产环境部署之间的鸿沟，提供了模型管理、数据预处理、多模型并发服务等功能。deepdetect 采用 C++ 编写，强调高性能和低延迟，适合在 GPU 环境下运行，并支持 ncnn 等轻量级推理引擎，便于在边缘设备上部署。项目目前仍在活跃开发中，社区提供文档和示例，适合需要快速搭建推理服务的开发者和企业。

开源 unknown 计算机视觉

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 2551

维护状态较活跃

是否开源是

定价模式 unknown

项目数据

分类计算机视觉

开发团队jolibrain

所属国家

官网地址https://www.deepdetect.com

GitHubhttps://github.com/jolibrain/deepdetect

定价模式unknown

价格说明定价信息待确认

访问状态

是否开源是

开源协议NOASSERTION

主要语言C++

技术栈/模型caffe,deep-learning,gpu,image-classification,image-search,image-segmentation,machine-learning,ncnn,neural-nets,object-detection,pytorch,rest-api,tensorrt,tensorrt-conversion,tensorrt-inference,time-series,tsne,xgboost

GitHub 星标★ 2551

30天Star增速

HF 下载量

上线时间2015-05-22 00:00:00

最近更新2026-08-26 00:00:00

维护状态较活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-10

浏览次数3

使用教程

难度：入门约 15 分钟部署方式：库/依赖 7 步

环境要求

Python 环境（wheel 会嵌入 DeepDetect 运行时到当前环境）
可访问 https://www.deepdetect.com/download/wheels/simple 额外索引源
使用 GPU 版需具备 CUDA 环境
如需训练过程可视化，需安装 visdom

安装与启动步骤

1安装 CPU 版 wheel

在当前 Python 环境安装 deepdetect-cpu，装好后可用 import deepdetect 和 deepdetect 命令。cpu 与 gpu 包互斥，只能装一个。
```
python -m pip install --extra-index-url https://www.deepdetect.com/download/wheels/simple deepdetect-cpu
```
2或安装 GPU 版

CUDA 环境请改装 deepdetect-gpu 包，后续 train / infer 命令再加 --gpu 即可走显卡。
```
python -m pip install --extra-index-url https://www.deepdetect.com/download/wheels/simple deepdetect-gpu
```
3查看可用配置

列出内置 CLI profiles 与各命令帮助，确认 yolox、segformer 等 profile 已随 wheel 一起安装。
```
deepdetect inspect models
deepdetect train yolox --help
deepdetect infer segformer --help
```
4启动可视化服务

另开一个终端安装并启动 Visdom，训练时用 --terminal live 把进度显示在 8097 端口网页上。
```
python -m pip install visdom
python -m visdom.server -port 8097
```
5准备快速开始数据

用仓库自带脚本生成微型 YOLOX 数据集、模型仓库和 quickstart YAML，并打印出 Sample image 路径。
```
python bindings/python/scripts/prepare_cli_yolox_quickstart.py 
  --output /tmp/deepdetect-yolox-quickstart 
  --force
```
6训练小模型

用上一步生成的 YAML 跑一个很小的 YOLOX 训练；--terminal live 需配合已启动的 Visdom。
```
deepdetect train yolox 
  --config /tmp/deepdetect-yolox-quickstart/yolox-quickstart.yaml 
  --terminal live
```

7运行推理

把换成准备脚本打印的 Sample image 路径，加 --visualize 输出带框的检测结果图。

deepdetect infer yolox  
  --config /tmp/deepdetect-yolox-quickstart/yolox-quickstart.yaml 
  --visualize 
  --output /tmp/deepdetect-yolox-quickstart/detections.png

关键配置

配置项	必填	说明	示例
`--config`	是	指定 YAML 配置文件，让训练/推理可重复执行	`/tmp/deepdetect-yolox-quickstart/yolox-quickstart.yaml`
`--gpu`	否	在 train / infer 命令上启用 CUDA 加速，需装 gpu 版 wheel	`--gpu`
`--output`	否	推理时的结果输出路径	`/tmp/deepdetect-yolox-quickstart/detections.png`
`--terminal`	否	训练终端输出方式，live 表示接 Visdom 实时可视化	`live`

如何确认成功

运行 deepdetect inspect models 能列出 yolox、segformer 等 profile；推理命令执行后生成 /tmp/deepdetect-yolox-quickstart/detections.png 即成功

常见问题

Q：deepdetect-cpu 和 deepdetect-gpu 能同时装吗？

A：不能。两者都提供 import deepdetect，在同一环境中互斥，只能选其中一个安装。

Q：训练加了 --terminal live 却没画面？

A：需要先在另一个终端执行 python -m pip install visdom，再运行 python -m visdom.server -port 8097 启动服务。

Q：怎么在显卡上跑这个例子？

A：安装 deepdetect-gpu wheel，并在 train 与 infer 命令上都追加 --gpu 参数。

Q：想要常驻的 REST 服务怎么办？

A：wheel/CLI 适合本地训练与推理；长期 REST 服务请看 docs/api.md，容器化服务看 docs/docker.md，自定义 C++ 构建看 docs/source.md。

注意事项

CLI 自带的 YAML 只是默认示例，正式使用前需替换数据集、权重和模型仓库路径。
deepdetect-cpu 与 deepdetect-gpu 提供相同的 import 名，同一环境不能共存。
--gpu 只在使用 GPU 版 wheel 且环境具备 CUDA 时可用。
更多训练、推理、监控与配置优先级细节见 bindings/python/deepdetect/cli/CLI_SPEC.md。

核心亮点

支持多框架（Caffe、Torch、TensorRT），灵活切换模型
提供 RESTful API，易于集成到现有系统
内置图像分类、目标检测等常用任务，开箱即用

不足之处

文档和社区活跃度一般，学习资源相对有限
部分高级功能依赖特定框架，配置复杂度较高

适用场景

快速搭建图像分类或目标检测的推理服务
在 GPU 服务器上部署多模型并发处理
边缘设备上使用 ncnn 进行轻量化推理

替代项目

TensorFlow Serving、TorchServe、ONNX Runtime

项目介绍

deepdetect 是计算机视觉领域的开源项目，由 jolibrain 开发，2015 年首次发布。

在全站 13,090 个收录项目中，它的 GitHub 星标数（2,551）位列前 30%，在计算机视觉分类中处于中上游。

项目保持着较活跃的维护节奏，最近一次代码更新于 2026-08-26。从国内网络环境看，可直接访问。

它主要面向的使用场景是：快速搭建图像分类或目标检测的推理服务。同类可对比的替代方案包括 TensorFlow Serving、TorchServe、ONNX Runtime。

上一篇：D-FINE

下一篇：Open3D-ML