
make-a-video-pytorch
用文本描述直接生成短视频,复现Meta最新AI模型
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1989
使用教程
环境要求
- Python 环境(可用 pip 安装)
- 已安装 PyTorch(代码示例中 import torch)
- 能联网访问 PyPI 以安装包
安装与启动步骤
-
1安装依赖库
用 pip 从 PyPI 安装 make-a-video-pytorch 包,README 提供的就是这一条安装命令。
pip install make-a-video-pytorch -
2导入所需模块
在 Python 脚本中导入 PseudoConv3d 与 SpatioTemporalAttention 两个模块,并导入 torch。
import torch from make_a_video_pytorch import PseudoConv3d, SpatioTemporalAttention -
3初始化两个模块
按 README 示例设置 dim=256、kernel_size=3;注意力模块设置 dim_head=64、heads=8。
conv = PseudoConv3d(dim=256, kernel_size=3) attn = SpatioTemporalAttention(dim=256, dim_head=64, heads=8) -
4输入视频特征测试
构造形状 (batch, features, frames, height, width) 的张量,分别前向得到卷积与注意力输出。
video = torch.randn(1, 256, 8, 16, 16) conv_out = conv(video) attn_out = attn(video) -
5用图像特征测试
传入 4 维图像张量时,时间维卷积与注意力会被自动跳过,可直接用于 2D Unet 预训练。
images = torch.randn(1, 256, 16, 16) conv_out = conv(images) attn_out = attn(images)
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
dim | 是 | 特征维度,示例中 PseudoConv3d 与注意力模块都设为 256 | 256 |
kernel_size | 是 | 伪 3D 卷积的卷积核大小 | 3 |
dim_head | 是 | 注意力每个头的维度 | 64 |
heads | 是 | 时空注意力的头数 | 8 |
如何确认成功
运行示例代码不报错,conv_out 与 attn_out 形状分别为 (1,256,8,16,16)(视频)或 (1,256,16,16)(图像)。
常见问题
Q:必须安装 PyTorch 吗?
A:是的,README 示例中先 import torch,且输入张量由 torch.randn 生成,需自行确保环境中已装好 PyTorch。
Q:传入 4 维图像张量会怎样?
A:README 说明此时时间维卷积和时空注意力会自动跳过,等价于普通 2D 模块,方便先做图像预训练再迁移到 3D Unet。
Q:这个包能直接生成视频吗?
A:README 定位是组件实现(wip),提供 PseudoConv3d 和 SpatioTemporalAttention 这类模块,需要自行搭建完整模型与训练流程。
Q:视频张量各维含义是什么?
A:README 注释为 (batch, features, frames, height, width),即批大小、特征数、帧数、高、宽。
注意事项
- 项目 README 标注为 wip(开发中),API 可能变动
- README 未给出训练脚本、权重或推理端到端命令
- PseudoConv3d 与 SpatioTemporalAttention 只是构建视频生成模型的组件,不代表完整 Make-A-Video 复现
核心亮点
- 完整复现Make-A-Video架构,包含时空注意力和轴向卷积模块
- 支持从预训练文本-图像模型微调,降低视频训练门槛
- 提供推理脚本和示例,可快速生成文本对应的视频片段
不足之处
- 非官方实现,与Meta原版可能存在细节差异
- 训练资源需求高,普通硬件难以复现完整训练流程
- 文档/社区待观察
适用场景
- 学术研究:对比分析文本到视频生成模型结构
- 创意内容:根据文案自动生成短视频素材
- 教学演示:学习扩散模型在视频领域的应用
替代项目
VideoGPT、CogVideo、ModelScope Text-to-Video
同类项目推荐
LivePhoto
开源
输入一张照片和一句动作描述,即可生成动态视频
Official implementations for paper: LivePhoto: Real Image Animation with Text-guided···
ID-LoRA-LTX2.3-ComfyUI
开源
上传一张脸和一段声音,在 ComfyUI 里生成会说话的视频。
Custom ComfyUI node for generating videos with audio-visual identity based on a refe···
ComfyUI-MiniMax-H3-Promptor
开源
在 ComfyUI 里一键生成电影级 MiniMax H3 视频提示词
A powerful, ComfyUI Custom node automation suite for generating cinema-production-gr···
ComfyUI-Wan-VACE-Video-Joiner
开源
用Wan VACE在ComfyUI里给任意视频片段做丝滑过渡
ComfyUI workflows to create smooth transitions between video clips using Wan VACE. W···
UniAnimate
开源
一张图+动作序列,生成连贯人物动画视频
Code for SCIS-2025 Paper "UniAnimate: Taming Unified Video Diffusion Models for Cons···
physgen
开源
给静态图片加上真实物理运动,生成物理正确的视频
PhysGen: Rigid-Body Physics-Grounded Image-to-Video Generation (ECCV 2024)
FancyVideo
开源
输入文字或图片,快速生成动态视频片段
Video generation from text&image, 1st-gen
InteractiveVideo
开源
用多模态指令随心操控视频生成,让创意精准落地
InteractiveVideo: User-Centric Controllable Video Generation with Synergistic Multim···
clipforge
开源
上传商品图,一键生成带货短视频,多平台可用
ClipForge(原『带货剪手』/ daihuo-jianshou):开源 AI 带货短视频神器——上传一张商品···