Lance

环境要求

• Python 3.11（README 用 conda 创建 Lance 环境）
• 支持 CUDA 12.6 的 NVIDIA GPU 与驱动（torch 使用 cu126 轮子）
• 已安装 conda 与 git
• 磁盘空间需容纳 Lance-3B 权重（含 safetensors/bin/pth 等文件）
• 能访问 Hugging Face 下载模型权重

安装与启动步骤

1. 1克隆仓库

   把 Lance 官方仓库拉到本地，并进入项目根目录，后续命令都在该目录执行。

   git clone https://github.com/bytedance/Lance.git
   cd Lance

   复制

2. 2创建 conda 环境

   按 README 用 Python 3.11 新建名为 Lance 的虚拟环境并激活，避免污染系统环境。

   conda create -n Lance python=3.11 -y
   conda activate Lance

   复制

3. 3安装 PyTorch

   从 PyTorch 官方 cu126 源安装 torch 2.8.0、torchvision 0.23.0、torchaudio 2.8.0，版本必须对齐。

   pip install torch==2.8.0 torchvision==0.23.0 torchaudio==2.8.0 --index-url https://download.pytorch.org/whl/cu126

   复制

4. 4安装项目依赖

   在已激活的 Lance 环境中安装 requirements.txt 里的全部 Python 依赖。

   pip install -r requirements.txt

   复制

5. 5安装 flash-attn

   安装 flash-attn 2.8.3；源码编译失败时可改用 README 给的预编译 wheel，需自行核对 Python/PyTorch/CUDA 版本。

   pip install flash-attn==2.8.3 --no-build-isolation

   复制

6. 6下载模型权重

   用 huggingface_hub 的 snapshot_download 拉取 bytedance-research/Lance 权重到 downloads/ 目录，按 allow_patterns 只取必要文件。

   from huggingface_hub import snapshot_download
   
   save_dir = "./downloads/"
   repo_id = "bytedance-research/Lance"
   cache_dir = save_dir + "/cache"
   
   snapshot_download(cache_dir=cache_dir,
     local_dir=save_dir,
     repo_id=repo_id,
     local_dir_use_symlinks=False,
     resume_download=True,
     allow_patterns=["*.json", "*.safetensors", "*.bin", "*.py", "*.md", "*.txt","*.pth",],
   )

   复制

7. 7运行推理

   先修改 inference_lance.sh 顶部的推理参数，再执行脚本；任务可用 t2i、t2v、i2v、image_edit、video_edit、x2t_image、x2t_video。

   bash inference_lance.sh

   复制

关键配置

如何确认成功

执行 bash inference_lance.sh 能跑完且不报错，即说明环境、flash-attn 与权重均已正确加载。

常见问题

注意事项

• weight 下载脚本的 allow_patterns 只拉取 json、safetensors、bin、py、md、txt、pth 等文件，勿随意删减。
• 预编译 flash-attn wheel 来自第三方仓库，README 明确说明仅供参考，安装前请校验版本匹配。
• 输入提示词建议参照仓库示例格式，否则生成质量会下降。
• benchmarks/ 下的 GenEVAL、DPG、GEdit、VBench 脚本可直接运行，便于对比效果。