xDiT

环境要求

• Python 环境，可正常使用 pip 安装包
• 多张 GPU（xDiT 面向多设备并行推理，README 示例并行度为 8）
• 磁盘可容纳所下载的 DiT 模型权重（如 FLUX.1-dev）
• 可选：GPU 支持 flash_attn，用于启用 FlashAttention 加速

安装与启动步骤

1. 1安装 xfuser

   最简安装方式，pip 会自动拉取 PyTorch、diffusers 等依赖。注意不同模型对 diffusers 版本要求不同，报错时可换版本。

   pip install xfuser

   复制

2. 2可选装 FlashAttention

   flash_attn 是可选依赖，装上后可启用 flash attention 注意力后端加速，不装也能正常推理。

   pip install "xfuser[flash-attn]"

   复制

3. 3源码方式安装

   先从 GitHub 获取 xDiT 源码（https://github.com/xdit-project/xDiT），进入项目根目录后执行该命令以可编辑模式安装。

   pip install -e .

   复制

4. 4运行模型推理

   用 xDiT Model Runner 单入口运行支持的扩散模型，示例为 FLUX.1-dev，可按显存与 GPU 数调整并行度参数。

   xdit --model FLUX.1-dev --prompt "A cat running in a garden" --ulysses_degree 8

   复制

关键配置

如何确认成功

执行 xdit 命令后终端无报错并跑完推理流程，正常结束即说明安装与运行成功。

常见问题

注意事项

• 开发者也可直接用 Docker 镜像：thufeifeibear/xdit-dev；AMD GPU 用户选 rocm/pytorch-xdit。
• pyproject.toml 中指定的 diffusers 版本可能无法覆盖最新模型，新模型常需更高版本甚至 main 分支。
• Model Runner 未覆盖全部旧模型，旧模型请参考 README 中的示例脚本。
• xDiT 的核心价值是把单卡推理扩展到多卡，并行度参数应与实际可用 GPU 数量匹配。