项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 4057
使用教程
环境要求
- Python 3.10.13
- CUDA 12.4(GPU 环境)
- PyTorch >= 2.5.1
- 磁盘空间用于存放基础模型到 <repo-root>/models/
- 已安装 git 与 pip
安装与启动步骤
-
1克隆仓库
把 VACE 源码拉到本地并进入项目根目录,后续所有命令都在该目录下执行。
git clone https://github.com/ali-vilab/VACE.git && cd VACE -
2安装 PyTorch
若本机还没装 PyTorch,按 README 指定版本与 cu124 源安装,CUDA 版本需为 12.4。
pip install torch==2.5.1 torchvision==0.20.1 --index-url https://download.pytorch.org/whl/cu124 -
3安装项目依赖
安装仓库根目录 requirements.txt 中的推理依赖,建议使用虚拟环境隔离。
pip install -r requirements.txt -
4安装 Wan2.1 支持
如果要使用基于 Wan2.1 的 VACE,需要额外安装 wan 包;不使用可跳过。
pip install wan@git+https://github.com/Wan-Video/Wan2.1 -
5安装 LTX-Video 支持
使用 LTX-Video-0.9 版 VACE 时安装,注意它可能与 Wan 依赖冲突。
pip install ltx-video@git+https://github.com/Lightricks/LTX-Video@ltx-video-0.9.1 sentencepiece --no-deps -
6下载基础模型
把所选基础模型放到 <repo-root>/models/,并按下文推荐目录结构组织文件夹。
-
7安装预处理工具
需要预处理(深度、边缘、姿态等)时安装 annotator 依赖,并下载 VACE-Annotators 到 models/。
pip install -r requirements/annotator.txt -
8运行端到端推理
一条命令串联预处理与推理,输出默认写入 ./results/,示例为 V2V depth 任务。
python vace/vace_pipeline.py --base wan --task depth --video assets/videos/test.mp4 --prompt 'xxx'
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
--base | 是 | 选择基础模型框架,示例使用 wan。 | wan |
--task | 是 | 指定控制/编辑任务类型,如 depth。 | depth |
--mode | 否 | 任务模式,例如 inpainting 时用 bbox。 | bbox |
--bbox | 否 | bbox 模式下的目标区域坐标。 | 50,50,550,700 |
--video | 是 | 输入视频路径,用于生成或编辑。 | assets/videos/test.mp4 |
--prompt | 是 | 文本提示词,控制生成内容。 | xxx |
如何确认成功
命令执行完成后,输出视频及中间视频、mask、图片会默认保存在项目根目录的 ./results/ 下,检查该目录即可确认成功。
常见问题
Q:LTX-Video 和 Wan2.1 能装在同一个环境里吗?
A:README 明确提示 LTX 安装可能与 Wan 冲突,建议为两者分别建独立虚拟环境,避免依赖互相覆盖。
Q:模型文件应该放在哪里?
A:统一下载到 <repo-root>/models/ 下,并参考 README 推荐结构,例如 models/VACE-Wan2.1-1.3B-Preview、models/VACE-LTX-Video-0.9、models/VACE-Annotators。
Q:怎么知道其他任务该怎么传参?
A:参考仓库根目录的 run_vace_pipeline.sh、vace/vace_wan_inference.py、vace/vace_ltx_inference.py,以及 UserGuide.md 中的详细说明。
Q:只跑推理需要装预处理依赖吗?
A:vace_pipeline.py 会顺序执行预处理和模型推理,因此需要相关预处理工具;若单独调用推理脚本则可只装推理依赖。
注意事项
- README 未给出显式端口或服务启动方式,本项目以命令行脚本方式运行,不涉及 Web 服务部署。
- 文件下载(基础模型、VACE-Annotators、VACE-Benchmark)需手动进行,README 只给出目标目录。
- 进行 prompt extension 时,编辑任务可能因扩展文本与输入视觉信息不匹配而影响最终效果,需谨慎使用。
- 建议下载 VACE-Benchmark 到 <repo-root>/benchmarks/,与 run_vace_xxx.sh 中的示例路径保持一致。
核心亮点
- 统一条件编码器,支持文本、图像、深度、姿态等任意组合输入,灵活性强
- 基于 Stable Video Diffusion 微调,生成质量高且训练成本相对可控
- 官方提供完整训练/推理代码和预训练模型,易于复现和二次开发
不足之处
- 文档/社区待观察
- 对显存和计算资源要求较高,普通用户难以本地部署
适用场景
- 视频创作者快速生成带指定人物或场景的短片
- 影视后期进行视频内容替换、风格迁移或局部编辑
- 研究者进行多模态条件视频生成算法的实验与对比
替代项目
AnimateDiff、VideoComposer、ControlVideo
上一篇:Light-A-Video
下一篇:HunyuanCustom
同类项目推荐
ContentMachine
开源
输入一个主题,自动生成一部纪录片式视频,近乎可直接发布。
An all-in-one AI pipeline for creating cinematic, documentary-style videos from a si···
epipolar-dpo
开源
用极线几何约束,让AI生成的视频更符合真实3D空间
Official repo for: Epipolar Geometry Improves Video Generation Models
Veo3-AI-Video-API
开源
用Veo 3和Sora生成视频,成本直降97%
AI Video Generator API — Veo 3, Openai Sora by GeminiGenAI. Create stunning AI vide···
YouTube-AI-Motion-Graphics
开源
74 个 HTML 动画板配旁白节奏,逐帧导出成解说视频
AI motion graphics for YouTube explainer videos: 74 animated HTML explainer boards (···
NarratoAI
开源
上传视频,AI 自动写稿配音剪辑,一键出片
利用 AI 大模型,一键解说并剪辑视频
hyperframes-motion-director
开源
把文章和网页一键变成动态视频,中文优先
Agent Skill for Chinese-first HyperFrames motion-video production from articles, pro···
ltx-video-mac
开源
在 Mac 上本地生成 AI 视频,无需云端,开箱即用。
Native macOS app for local AI video on Apple Silicon — LTX-2, LTX-2.3, LTX-2.5, and···
ShotStream
开源
边聊边生成多镜头视频,像导演一样实时讲故事
[ECCV 2026] ShotStream: Streaming Multi-Shot Video Generation for Interactive Storyt···
ez-text2video
开源
低配显卡也能跑文本生成视频,自定义时长和分辨率
Easily run text-to-video diffusion with customized video length, fps, and dimensions···
