CogView

环境要求

• Linux 服务器，推荐使用 NVIDIA V100 或 A100 GPU
• PyTorch >= 1.7.0
• NVIDIA apex（方案一需自行安装，README 给出其仓库链接）
• Docker（方案二需要，镜像为 cogview/cuda111_torch181_deepspeed040）
• Python 其他依赖见仓库 requirements.txt

安装与启动步骤

1. 1准备硬件环境

   准备 Linux 服务器与 NVIDIA GPU，推荐 V100/A100；显存或算力不足时可减小推理批大小、或训练更小的模型。

2. 2安装依赖(方案一)

   先自行安装 PyTorch(>=1.7.0) 与 apex，再安装其余依赖；README 只给出 apex 仓库链接，未给出安装命令。

   pip install -r requirements.txt

   复制

3. 3拉取官方镜像

   方案二：环境配置失败时改用官方镜像，镜像名 cogview/cuda111_torch181_deepspeed040。

   docker pull cogview/cuda111_torch181_deepspeed040

   复制

4. 4启动并进入容器

   执行仓库自带的 env/start_docker.sh 创建后台容器 bg-cogview，随后直接进入该容器。

   ./env/start_docker.sh && docker exec -it bg-cogview bash

   复制

5. 5进入项目目录

   容器内代码放在 /root/cogview，进入后可看到推理与训练代码。

   cd /root/cogview

   复制

6. 6查看推理脚本

   生成功能封装在 generate_samples.py，可调参数见 arguments.py，按这两个文件的说明执行生成。

关键配置

如何确认成功

容器方式下能进入 bg-cogview 容器并看到 /root/cogview 目录；方案一下 pip install 无报错且能导入 torch。

常见问题

注意事项

• 项目为 4B 参数 Transformer，训练与推理都对 GPU 资源要求较高。
• CogView 论文被 NeurIPS 2021 收录，PB-relax 与 Sandwich-LN 有助于稳定训练超深 Transformer。
• CogView2 与 ImageReward 是另外的独立仓库（THUDM 下），不在本仓库中。
• README 未给出推理的具体命令行参数，运行前请先阅读 generate_samples.py 与 arguments.py。