comfyui-mesh
把大模型拆到两张显卡上跑，显存不够也能玩 FLUX.2
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 125
核心亮点
- 利用 NVENC 硬件压缩激活数据，显著降低多卡间传输带宽需求，提升分布式推理效率
- 提供完整的 ComfyUI 节点（Icarus）和后端服务（Daedalus），安装配置简单，用户无感
- 支持局域网和同机多 GPU 两种模式，灵活适配不同硬件环境
不足之处
- 项目处于早期阶段，文档和社区支持尚待完善，可能遇到兼容性问题
- 仅支持特定模型（FLUX.2、LTX 2.3），通用性有限
适用场景
- 在双卡工作站上运行超出单卡显存的大模型
- 通过局域网连接多台机器，构建低成本分布式推理集群
- 在 ComfyUI 工作流中无缝使用多 GPU 加速图像或视频生成
替代项目
DeepSpeed、TensorFlow Distributed、PyTorch Distributed
上一篇：comfyui-api
同类项目推荐
pai
开源
管好 GPU 集群，让 AI 训练快人一步
Resource scheduling and cluster management for AI
paddock
开源
Rust 写的推理服务器，Mac 和 N 卡都能跑开放模型
Native Rust inference server for open models on NVIDIA and Apple Silicon. OpenAI- an···
ipex-llm
开源
让 Intel 电脑也能流畅跑大模型，推理微调一步到位
Accelerate local LLM inference and finetuning (LLaMA, Mistral, ChatGLM, Qwen, DeepSe···
hub
开源
集中登记管理模型版本与元数据，打通实验到生产
Model Registry provides a single pane of glass for ML model developers to index and ···
k8m
开源
给 K8s 配个 AI 助手，一句话搞定集群运维
一款轻量级、跨平台的 Mini Kubernetes AI Dashboard，支持大模型+智能体+MCP(支持设置操作···
budgetml
开源
10 行代码搞定低预算 ML 推理服务，省钱省心
Deploy a ML inference service on a budget in less than 10 lines of code.
airweave
开源
各种数据源一次接好，智能体随时有料可查
Open-source context retrieval layer for AI agents
AIephant-AI-Agent-Gateway
开源
统一管控所有 AI 代理的 LLM 调用，还能发布成付费接口赚钱
Alephant is an open-source AI Agent Gateway for routing, tracking, and controlling L···
tpu-inference
开源
让 vLLM 推理直接跑在 TPU 上
Moving to vllm-project/vllm-jax. TPU inference for vLLM, with unified JAX and PyTorc···