CogView4

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

• Python 环境（README 仅给出 Python 推理脚本，未说明具体版本）
• NVIDIA GPU：512×512 约需 33GB 显存，开启 model_cpu_offload 后约 20GB
• 系统内存建议至少 32GB，防止进程被系统杀掉
• 建议使用 BF16 精度推理（官方测试条件）

安装与启动步骤

1. 1克隆项目仓库

   从 GitHub 拉取 CogView4 代码仓库，包含 inference 目录下的推理脚本。README 未给出依赖安装命令，请自行按脚本导入项准备环境。

   git clone https://github.com/zai-org/CogView4.git

   复制

2. 2确认显存与分辨率

   按 README 显存表选择分辨率：512×512 需 33GB，1280×720 / 1024×1024 需 35GB；开启 offload 后可降至约 20GB。

3. 3运行命令行推理

   执行 README 中给出的命令行推理示例脚本，按脚本内提示输入中文或英文提示词生成图片。

   python inference/cli_demo_cogview4.py

   复制

4. 4开启低显存优化

   在推理脚本中加入以下三行，可显著降低显存占用（配合 enable_model_cpu_offload 可降到 20GB 左右）。

   pipe.enable_model_cpu_offload()
   pipe.vae.enable_slicing()
   pipe.vae.enable_tiling()

   复制

5. 5运行 int8/int4 量化版

   显存仍不足时，可用 README 提供的 TorchAO int8/int4 脚本加载 text encoder 与 transformer。

   python inference/cli_demo_cogview4_int8.py

   复制

6. 6启动 Gradio 界面

   运行 README 中提到的 gradio 网页 demo，在浏览器中交互式输入提示词生成图像。

   python inference/gradio_web_demo.py

   复制

关键配置

如何确认成功

运行结束后在当前目录生成 cogview4.png 文件，即为推理成功。

常见问题

注意事项

• README 节选未包含 pip 依赖安装命令，请按实际脚本的 import 自行安装依赖。
• 官方 DIT 模型测试条件为 BF16 精度、batchsize=4。
• 建议设备内存至少 32GB，否则进程可能被系统杀死。
• 2025/03/24 起官方推荐使用 CogKit 进行微调与推理。