TensorRT-YOLO

把 YOLO 模型在 NVIDIA 上跑得又快又省心

开源 free 计算机视觉

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 1892

维护状态维护中

是否开源是

定价模式 free

项目预览

项目数据

分类计算机视觉

开发团队laugh12321

所属国家

官网地址https://trtyolo.laugh12321.cn

GitHubhttps://github.com/laugh12321/TensorRT-YOLO

定价模式free

价格说明开源免费，基于MIT许可证

访问状态

是否开源是

开源协议GPL-3.0

主要语言C++

技术栈/模型computer-vision,image-classification,instance-segmentation,object-detection,pose-estimation,rotated-object-detection,tensorrt,tensorrt-inference,tensorrt10,ultralytics,yolo,yolo11,yolo26,yolov5,yolov8

GitHub 星标★ 1892

30天Star增速

HF 下载量

上线时间2024-01-28 00:00:00

代码更新—

仓库体积—

本站数据更新—

维护状态维护中

中文支持

访问方式

移动端支持

综合评分

收录时间2026-09-02

浏览次数9

项目介绍

TensorRT-YOLO 是一个面向 NVIDIA GPU 的 YOLO 系列模型部署工具包，旨在让 YOLO 的推理部署更简单、更快速。它基于 TensorRT 进行深度优化，支持目标检测、实例分割、姿态估计、旋转目标检测和图像分类等多种视觉任务。项目解决了 YOLO 模型在 TensorRT 上转换流程繁琐、性能调优困难的问题，提供了从模型导出、量化到推理的完整流水线，并内置了多种主流 YOLO 变体的支持。其核心能力包括高吞吐低延迟的推理引擎、易于集成的 C++ API、以及针对不同硬件平台的自动调优。对于需要将 YOLO 模型高效部署到 NVIDIA 嵌入式设备或服务器的开发者，该工具能显著缩短开发周期并提升运行性能。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

难度：进阶约 20 分钟部署方式：本地安装 7 步

环境要求

NVIDIA GPU 与对应驱动
已安装 TensorRT，并准备其安装路径
已安装 CMake 与 C++ 编译工具链
Python 环境（可选，需开启 BUILD_PYTHON 才能用 Python 推理）
pybind11（编译 Python 绑定时需要）

安装与启动步骤

1克隆仓库

把 TensorRT-YOLO 源码克隆到本地并进入项目目录，后续编译都在此目录执行。
```
git clone https://github.com/laugh12321/TensorRT-YOLO
cd TensorRT-YOLO
```
2安装 pybind11

安装 pybind11[global]，用于在编译时生成 Python 绑定；只用 C++ 也可先装上备用。
```
pip install "pybind11[global]"
```

3CMake 配置

指定 TensorRT 路径与安装路径；BUILD_PYTHON=ON 才会生成 Python 绑定文件。

cmake -S . -B build -D TRT_PATH=/your/tensorrt/dir -D BUILD_PYTHON=ON -D CMAKE_INSTALL_PREFIX=/your/tensorrt-yolo/install/dir

4编译并安装

以 Release 模式编译并安装，-j$(nproc) 按 CPU 核数并行编译，耗时较长请耐心等待。
```
cmake --build build -j$(nproc) --config Release --target install
```
5配置环境变量(Linux)

把安装路径加入 PATH，使 CMake 的 find_package 能找到 tensorrt-yolo-config.cmake。
```
export PATH=$PATH:/your/tensorrt-yolo/install/dir
```
6配置环境变量(Windows)

Windows 下把安装目录及其 bin 子目录追加到 PATH，供后续 C++ 项目引用。
```
$env:PATH = "$env:PATH;C:your	ensorrt-yoloinstalldir;C:your	ensorrt-yoloinstalldirin"
```
7构建 Python 包

需先开启 BUILD_PYTHON 编译；生成 wheel 后用 pip 安装，即可获得与 C++ 相同的推理速度。
```
pip install --upgrade build
python -m build --wheel
pip install dist/trtyolo-6.*-py3-none-any.whl
```

关键配置

配置项	必填	说明	示例
`TRT_PATH`	是	指向本机 TensorRT 安装目录，编译时需要链接 TensorRT。	`/your/tensorrt/dir`
`CMAKE_INSTALL_PREFIX`	是	指定头文件与动态库的安装输出路径。	`/your/tensorrt-yolo/install/dir`
`BUILD_PYTHON`	否	设为 ON 才会生成 Python 绑定；需要 Python 推理时必须开启。	`ON`

如何确认成功

安装目录 include 下有头文件、lib 下有 trtyolo 与 custom_plugins 动态库；开启 BUILD_PYTHON 时 trtyolo/libs 下生成 Python 绑定文件。

常见问题

Q：编译后 Python 导入不到 trtyolo？

A：确认编译时加了 -D BUILD_PYTHON=ON，并用 python -m build --wheel 生成 wheel 后 pip install 对应 dist 目录下的 trtyolo-6.* whl 文件。

Q：找不到 tensorrt-yolo-config.cmake？

A：需要把 CMAKE_INSTALL_PREFIX 指向的安装路径加入 PATH 环境变量，Linux 用 export，Windows 用 $env:PATH 追加。

Q：custom_plugins 动态库什么时候需要？

A：仅在使用 trtexec 构建 OBB、Segment 或 Pose 模型时需要该插件动态库，普通检测任务可不用。

Q：只做 C++ 部署还需要装 pybind11 吗？

A：不需要，pybind11 只用于生成 Python 绑定，纯 C++ 使用可跳过该步并把 BUILD_PYTHON 设为 OFF。

注意事项

社区版为 6.4，许可证 GPL-3.0，推理接口已冻结，专业版源码不在本仓库。
命令中的 TRT_PATH 和安装路径均为示例，请替换为本机真实目录。
编译耗时较长，建议用 -j$(nproc) 并行编译并预留充足磁盘空间。
使用 C++ 动态库前务必先配置好安装路径的环境变量。

核心亮点

内置多种 YOLO 变体（检测/分割/姿态）的 TensorRT 转换模板，开箱即用
提供端到端部署流水线，从 ONNX 导出到量化推理一步到位
针对 Jetson 和独立 GPU 做了性能调优，实测帧率提升明显

不足之处

主要面向 C++ 用户，Python 绑定支持较弱
文档偏重英文，中文社区资料较少

适用场景

自动驾驶中的实时目标检测与姿态估计
工业质检场景的实例分割与旋转目标检测
边缘设备（如 Jetson）上的低延迟视觉推理

替代项目

YOLOv8-TensorRT、DeepStream-YOLO、ultralytics-yolov8

上一篇：frigate-hass-integration

下一篇：TagLab