comfy-trt-test

给ComfyUI装上TensorRT引擎,让SD出图更快

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 图像生成 🍴 复刻 3 🐛 待处理 7 👀 关注 7
GitHub ↗
GitHub 星标 ★ 81
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0许可证,可免费使用和部署。

项目预览

comfy-trt-test 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类图像生成
开发团队phineas-pta
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0许可证,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型comfyui,stable-diffusion,tensorrt
GitHub 星标★ 81
上线时间2023-10-25 00:00:00
代码更新2024-06-04
仓库体积4.3 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数3

项目介绍

这是一个将TensorRT推理引擎集成到ComfyUI中的早期实验性项目,旨在解决ComfyUI中Stable Diffusion模型推理速度慢的问题。它通过利用NVIDIA TensorRT的图优化、层融合和低精度推理能力,将ONNX格式的模型转换为TensorRT引擎,从而在ComfyUI的工作流中实现更快的图像生成。项目核心能力包括:提供自定义节点以加载TensorRT引擎、支持Stable Diffusion的UNet和VAE部分加速、以及通过Python脚本实现模型转换和推理。目前项目仍处于早期阶段,功能较为基础,但为ComfyUI用户提供了一条使用TensorRT加速的可行路径。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 81

核心亮点

  • 直接集成ComfyUI,无需额外UI,使用现有工作流即可调用
  • 利用TensorRT的FP16推理,实测可显著降低延迟
  • 提供模型转换脚本,支持自定义Stable Diffusion模型导出为TensorRT引擎

不足之处

  • 仅支持NVIDIA GPU,且需要手动安装TensorRT依赖,配置门槛高
  • 项目处于早期阶段,节点功能单一,不支持ControlNet等高级特性
  • 文档/社区待观察

适用场景

  • 需要批量生成图像,追求低延迟的Stable Diffusion用户
  • 在ComfyUI中尝试TensorRT加速的AI绘画爱好者
  • 研究TensorRT与ComfyUI集成的开发者

替代项目

ComfyUI-TensorRT、TensorRT-For-Stable-Diffusion、AITemplate

上一篇:ROCm-RX6600XT

下一篇:comfy2go

同类项目推荐

OnnxStream 开源

让树莓派跑SDXL,低内存设备也能玩转大模型

Lightweight inference library for ONNX files, written in C++. It can run Stable Diff···

★ 2087 2026-08-09
codeburn 开源

每分钱花哪了看得明明白白,AI 账单不再超支。

Free, local tool to track AI coding token usage and cost across 37 tools and agents ···

★ 11736 2026-08-09
FreeQwenApi 开源

把 Qwen 网页版变成免费 API,本地部署即用

Локальный API-прокси для Qwen AI с поддержкой сохра···

★ 344 2026-08-09
dynamo 开源

把大模型推理做成数据中心级集群服务

A Datacenter Scale Distributed Inference Serving Framework

★ 8461 2026-10-25
ml_in_production 开源

看多种ML模型部署方式,选型不踩坑

A set of demo of deploying a Machine Learning Model in production using various meth···

★ 61 2026-08-09
GenieX 开源

一行代码让高通设备跑起前沿大模型,离线AI轻松实现

Run frontier LLMs and VLMs locally on Qualcomm devices across NPU, GPU, and CPU with···

★ 8508 2026-08-09
lemoncrow 开源

让编码智能体提速 25%、降价 30%,质量不变

A Complete faster runtime for coding agents. Optimize the journey, not the hop. Make···

★ 72 2026-08-09
lmdeploy 开源

一键压缩部署大模型,推理快、显存省、吞吐高

LMDeploy is a toolkit for compressing, deploying, and serving LLMs.

★ 8135 2026-08-09
gguf 开源

让 ComfyUI 直接跑 GGUF 量化模型,低显存也能出图

gguf node for comfyui

★ 279 2026-10-16