tensorrt
本站收录 27 个带「tensorrt」标签的 AI 开源项目
yolov5YOLOv5 是 Ultralytics 团队开发的基于 PyTorch 的目标检测框架，是目前计算机视觉领域最流行的开源项目之一。它解决了实时目标检测、实例分★ 58,097
yolov3这是一个基于PyTorch实现的YOLOv3目标检测项目，支持YOLOv3、YOLOv3-SPP和YOLOv3-tiny三种模型。它解决了从模型训练到部署的全流★ 10,612
RapidOCRRapidOCR 是一个基于 ONNX Runtime、OpenVINO、MNN、PaddlePaddle、TensorRT 和 PyTorch 等多种推理引擎★ 7,999
PyTorch-Tutorial-2nd《PyTorch实用教程》（第二版）是一份面向深度学习工程师的开源教程，以Jupyter Notebook形式呈现。它系统覆盖了从PyTorch基础语法、张量操★ 4,610
lite.ai.toolkitlite.ai.toolkit 是一个轻量级的 C++ AI 推理工具包，集成了 100 多个预训练模型，支持 MNN、ONNX Runtime 和 Tenso★ 4,436
WhisperLiveWhisperLive 是一个基于 OpenAI Whisper 的近乎实时语音转写工具，旨在解决传统 Whisper 离线处理延迟高、无法用于直播或对话场景的★ 4,301
GenerativeAIExamplesGenerativeAIExamples 是 NVIDIA 推出的生成式 AI 参考工作流集合，专为加速基础设施和微服务架构优化。它提供了一系列端到端的示例，涵★ 4,197
deepdetectdeepdetect 是一个开源的深度学习服务器和命令行工具，最初由 Jolibrain 开发，旨在简化深度学习模型的部署和服务化。它支持多种深度学习框架，包括★ 2,551
inferenceinference 是一个将任何计算机或边缘设备转变为计算机视觉项目指挥中心的开源工具。它解决了视觉模型从开发到生产部署的复杂性问题，提供统一的推理 API，支★ 2,462
TensorRT-YOLOTensorRT-YOLO 是一个面向 NVIDIA GPU 的 YOLO 系列模型部署工具包，旨在让 YOLO 的推理部署更简单、更快速。它基于 Tensor★ 1,892
nndeploynndeploy 是一款专注于 AI 模型部署的 C++ 框架，旨在解决深度学习模型从训练到生产环境落地时面临的碎片化问题。它提供统一的推理接口，屏蔽了不同后端★ 1,882
awesome-yolo-object-detectionawesome-yolo-object-detection 是一个精选 YOLO 目标检测系列开源项目和数据集的资源合集。它系统整理了 YOLO 从 v1 到 ★ 1,794
TurboOCRTurboOCR 是一个基于 C++ 实现的高性能 OCR 服务，专为追求极致吞吐量的场景设计。它集成了百度飞桨的 PP-OCRv6 模型，并利用 Tensor★ 1,098
Stable-Diffusion-NCNNStable-Diffusion-NCNN 是一个基于 C++ 和 NCNN 推理框架的 Stable Diffusion 轻量级实现，支持在移动端（如 And★ 1,069
RadiataRadiata 是一个基于 diffusers 库构建的 Stable Diffusion WebUI，旨在为图像生成提供一个更现代、更易扩展的图形化界面。它解★ 962
SavantSavant 是一个基于 Python 的计算机视觉与视频分析框架，构建在 NVIDIA DeepStream 和 CUDA 之上，目标是让开发者用声明式 YA★ 858
Autopilot-NotesAutopilot-Notes 是一个自动驾驶技术学习笔记项目，以解析各模块知识点、整合行业优秀解决方案为核心，帮助作者及读者系统掌握自动驾驶相关技术。内容覆盖★ 836
x-stable-diffusionx-stable-diffusion 是一个专注于 Stable Diffusion 实时推理加速的开源项目，目标是将延迟降低至 0.88 秒。项目集成了多种主★ 556
ComfyUI-Upscaler-TensorrtComfyUI-Upscaler-Tensorrt 是一个为 ComfyUI 设计的图像放大加速插件，利用 NVIDIA TensorRT 对 Real-ESR★ 249
jetson-voicejetson-voice 是一个专为 NVIDIA Jetson 平台设计的深度学习推理库，专注于语音相关任务，涵盖自动语音识别（ASR）、自然语言处理（NLP★ 229
D-FINE-segD-FINE-seg 是基于 D-FINE 检测器扩展而来的目标检测与实例分割一体化框架，覆盖训练、导出、推理全流程。它解决的是在边缘设备上同时做检测和实例分割★ 212
isaac_ros_object_detectionisaac_ros_object_detection 是 NVIDIA 为 ROS 2 生态提供的图像空间目标检测加速包，属于 Isaac ROS 系列。它把深★ 204
ML-Model-CIMLModelCI 是一个面向机器学习服务的 MLOps 平台，旨在打通模型训练与线上部署之间的断层。它提供模型管理、格式转换、性能剖析和自动部署等一站式能力，★ 198
ComfyUI-Depth-Anything-TensorrtComfyUI-Depth-Anything-Tensorrt 是一个为 ComfyUI 设计的自定义节点，它集成了 Depth Anything 系列模型（v★ 134
isaac_ros_image_segmentationisaac_ros_image_segmentation 是 NVIDIA 推出的 ROS2 语义分割加速包，基于 TensorRT 和 GPU 推理，为 Je★ 127
comfy-trt-test这是一个将TensorRT推理引擎集成到ComfyUI中的早期实验性项目，旨在解决ComfyUI中Stable Diffusion模型推理速度慢的问题。它通过利★ 81
controlnet_stable_tensorrt这是一个将 Stable Diffusion 与 ControlNet 结合，并通过 TensorRT 进行推理加速的早期开源项目。它主要解决在本地或生产环境中★ 70