MAGI-1

环境要求

• Linux 环境 + NVIDIA GPU（Hopper 架构 H100/H800 体验最佳）
• Conda 包管理器，用于创建 Python 环境
• CUDA 12.4（PyTorch 对应版本 pytorch-cuda=12.4）
• Python 环境需能编译安装 MagiAttention（仅 Hopper 卡需要）
• 运行 24B 模型需要大显存 GPU，资源不足可改用 4.5B 模型

安装与启动步骤

1. 1获取项目代码

   从 GitHub 克隆 MAGI-1 仓库到本地，并进入项目根目录，后续命令都在此目录执行。

   git clone https://github.com/SandAI-org/MAGI-1.git
   cd MAGI-1

   复制

2. 2安装 PyTorch

   用 conda 安装 README 指定版本的 PyTorch、torchvision、torchaudio 及 CUDA 12.4 运行时。

   conda install pytorch==2.4.0 torchvision==0.19.0 torchaudio==2.4.0 pytorch-cuda=12.4 -c pytorch -c nvidia

   复制

3. 3安装依赖

   在项目根目录按 requirements.txt 安装 MAGI-1 的其余 Python 依赖。

   pip install -r requirements.txt

   复制

4. 4安装 ffmpeg

   通过 conda-forge 安装 4.4 版本 ffmpeg，视频生成与写盘依赖它。

   conda install -c conda-forge ffmpeg=4.4

   复制

5. 5(可选)装 MagiAttention

   仅 Hopper 架构（H100/H800）推荐安装以加速；其他 GPU 无需安装此组件。

   git clone git@github.com:SandAI-org/MagiAttention.git
   cd MagiAttention
   git submodule update --init --recursive
   pip install --no-build-isolation .

   复制

6. 6运行 24B 模型

   回到 MAGI-1 项目目录，执行官方示例脚本启动 24B 模型推理，需较大显存。

   bash example/24B/run.sh

   复制

7. 7运行 4.5B 模型

   显存有限时可改用 4.5B 示例脚本，命令结构与 24B 完全一致。

   bash example/4.5B/run.sh

   复制

如何确认成功

执行 example 下的 run.sh 后进程无报错、正常完成推理流程，即表示环境配置与模型启动成功。

常见问题

注意事项

• MagiAttention 的仓库地址使用 SSH 协议（git@github.com），需提前配置好 GitHub SSH 密钥，否则克隆会失败。
• MagiAttention 需要更新子模块（git submodule update --init --recursive），漏掉会编译失败。
• 24B 模型对显存要求很高，本地资源不足时优先尝试 4.5B 示例。
• README 未给出端口、API 服务或配置文件说明，属于本地脚本推理方式，请直接运行 example 下的脚本。