CV-CUDA

GPU 批量跑图像预处理,云端视觉吞吐翻倍

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 计算机视觉 🍴 复刻 266 🐛 待处理 70 👀 关注 42
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 2731
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,Apache 2.0 许可证

项目预览

CV-CUDA 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类计算机视觉
开发团队CVCUDA
定价模式🏷️完全免费
价格说明开源免费,Apache 2.0 许可证
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议NOASSERTION
主要语言C++
技术栈/模型bytedance,cloud,computer-vision,cpp,cuda,cv-cuda,gpu,image-processing,machine-learning,nvidia,python
GitHub 星标★ 2731
上线时间2022-08-23 00:00:00
代码更新2026-10-20
仓库体积51.1 MB
本站数据更新2026-11-03
维护状态较活跃
收录时间2026-09-17
浏览次数1

项目介绍

CV-CUDA 是字节跳动与英伟达联合开源、面向云规模图像处理与计算机视觉的 GPU 加速库。它针对传统 OpenCV 在 CPU 上处理高并发视频流时吞吐不足、延迟高的问题,把常用图像预处理与后处理算子(如缩放、裁剪、色彩空间转换、归一化、NMS 等)用 CUDA 重写,并以批处理方式在 GPU 上并行执行,从而大幅提升单位时间可处理的图像数量。库提供 C++ 与 Python 接口,算子可独立调用,也能与 PyTorch、TensorFlow 等深度学习推理流水线组合,适合部署在数据中心 GPU 上做视频解码后的前处理、模型推理后的后处理等环节。其设计强调零拷贝、批处理和算子融合,目标是让云端视觉服务在相同硬件下获得更高吞吐和更低延迟。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-17 · 当前星标 ★ 2731

使用教程

难度:入门 约 10 分钟 部署方式:库/依赖 4 步

环境要求

  • Linux 系统,架构为 x86_64 或 aarch64(官方预编译 wheel 仅覆盖 Linux 平台)
  • Python 3.10 至 3.14
  • 已安装 CUDA 12 或 CUDA 13 的 NVIDIA GPU 环境
  • 若选择源码构建,建议使用官方 Docker devel 镜像(见 docker/README.md)

安装与启动步骤

  1. 1确认本地环境

    先确认系统为 Linux(x86_64/aarch64)、Python 在 3.10–3.14 之间,并查清本机 CUDA 是 12 还是 13,以便选择对应的 wheel 包。

  2. 2安装 CUDA 12 版本

    本机 CUDA 为 12.x 时,直接从 PyPI 安装 cvcuda-cu12 预编译 wheel,无需自行编译。

    pip install cvcuda-cu12
  3. 3安装 CUDA 13 版本

    本机 CUDA 为 13.x 时,改用 cvcuda-cu13。二者按 CUDA 版本二选一安装,不要同时装。

    pip install cvcuda-cu13
  4. 4验证 Python 导入

    在 Python 中导入 cvcuda,若无报错即说明库与 CUDA 环境匹配、安装成功。

    python -c "import cvcuda"

如何确认成功

执行 python -c "import cvcuda" 无任何报错即表示安装成功;如报错多为 CUDA 版本与 wheel 不匹配。

常见问题

Q:应该装 cvcuda-cu12 还是 cvcuda-cu13?

A:取决于本机 CUDA 版本:CUDA 12.x 装 cvcuda-cu12,CUDA 13.x 装 cvcuda-cu13,README 就是按这两个版本分别提供 wheel 的。

Q:支持 Windows 或 macOS 吗?

A:README 说明预编译 Python wheel 只面向 Linux 平台(x86_64 与 aarch64),未提及 Windows/macOS 的预编译包。

Q:需要执行 git submodule update --init 吗?

A:不需要。README 明确指出 CV-CUDA 已不再使用 git submodule,执行该命令不会拉到任何内容。

Q:支持哪些 Python 版本?

A:PyPI 上的预编译 wheel 覆盖 Python 3.10 到 3.14。

Q:能不能自己从源码构建?

A:可以。构建依赖已预装在官方 Docker devel 镜像中,容器外构建的依赖清单见官网 Installation 指南。

注意事项

  • 预编译 wheel 仅覆盖 Linux 的 x86_64 与 aarch64 平台,其他平台需参考官网 Installation 页自行构建。
  • 除 Python wheel 外,官方还提供 Debian 包和 tar 归档,完整安装方式见 https://cvcuda.github.io/CV-CUDA/installation.html。
  • 源码构建依赖通过 CMake 的 find_package 解析,DLPack 未安装时使用 FetchContent 回退。
  • 仓库不再使用 git submodule,克隆后无需初始化子模块。

核心亮点

  • 算子用 CUDA 重写并支持批处理,云上高并发图像前处理吞吐明显高于 CPU 版 OpenCV
  • 提供 C++ 与 Python 双接口,可嵌入现有推理流水线,与 PyTorch/TensorFlow 配合使用
  • 由字节跳动与英伟达联合维护,算子覆盖缩放、裁剪、色彩转换、NMS 等常用视觉前后处理

不足之处

  • 强依赖 NVIDIA GPU 与 CUDA 环境,无 GPU 或非 N 卡场景无法使用
  • 算子集合相对 OpenCV 仍有限,部分冷门图像处理功能需自行实现或回退到 CPU

适用场景

  • 云端视频流实时前处理:解码后批量缩放、裁剪、归一化再送推理
  • 大规模图像检索/审核服务:GPU 上批量做色彩转换与尺寸统一
  • 深度学习推理流水线:把 NMS、仿射变换等后处理放到 GPU 减少 CPU 瓶颈

替代项目

OpenCV、DALI、Kornia

同类项目推荐

unrealcv 开源

在虚幻引擎里一键生成带标注的视觉数据,省去真实采集成本

UnrealCV: Connecting Computer Vision to Unreal Engine

★ 2224 2026-08-10
OpenShape_code 开源

让AI看懂任意3D形状,零样本也能分类检索

official code of “OpenShape: Scaling Up 3D Shape Representation Towards Open-World ···

★ 325 2026-08-09
QuickSnip 开源

Wayland 上截图即取字,还能顺手做图像搜索

⚡ Lightweight Wayland OCR & Google Lens utility built with Quickshell.

★ 167 2026-10-30
nnDetection 开源

医学3D检测免调参,换数据集直接跑

nnDetection is a self-configuring framework for 3D (volumetric) medical object detec···

★ 664 2026-10-14
BEVT 开源

用图像预训练加速视频 Transformer,省数据省算力

PyTorch implementation of BEVT (CVPR 2022) https://arxiv.org/abs/2112.01529

★ 161 2026-08-09
VisionState 开源

用现有摄像头+本地AI,把车库门、人车、水电燃气表变成HA传感器

Turn your cameras into Home Assistant sensors with a local AI: garage door open/clos···

★ 190 2026-10-24
HunyuanOCR 开源

轻量 OCR 大模型,一张图直接出结构化文字

HunyuanOCR-1.5: Making Lightweight OCR VLMs Faster and Better

★ 2071 2026-09-19