make-a-video-pytorch

用文本描述直接生成短视频,复现Meta最新AI模型

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 视频生成 🍴 复刻 184 🐛 待处理 7 👀 关注 66
GitHub ↗
GitHub 星标 ★ 1989
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,需自行部署使用。

项目预览

make-a-video-pytorch 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类视频生成
开发团队lucidrains
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,需自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型artificial-intelligence,attention-mechanisms,axial-convolutions,deep-learning,text-to-video
GitHub 星标★ 1989
上线时间2022-09-29 00:00:00
代码更新2024-05-03
仓库体积232 KB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数5

项目介绍

Make-A-Video 的 PyTorch 非官方实现,复现 Meta AI 提出的文本生成视频模型。该模型基于扩散模型架构,结合了文本编码器、时空注意力机制和轴向卷积,能够将文本描述直接转换为短视频片段。项目解决了从文本到视频生成的训练难题,通过预训练文本-图像模型并扩展至视频领域,降低了训练成本。核心能力包括文本条件视频生成、超分辨率处理以及视频插帧,支持从简单文本提示生成连贯的动态场景。代码结构清晰,包含模型定义、训练脚本和推理示例,适合研究者和开发者进行二次开发与实验。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1989

使用教程

难度:入门 约 10 分钟 部署方式:库/依赖 5 步

环境要求

  • Python 环境(可用 pip 安装)
  • 已安装 PyTorch(代码示例中 import torch)
  • 能联网访问 PyPI 以安装包

安装与启动步骤

  1. 1安装依赖库

    用 pip 从 PyPI 安装 make-a-video-pytorch 包,README 提供的就是这一条安装命令。

    pip install make-a-video-pytorch
  2. 2导入所需模块

    在 Python 脚本中导入 PseudoConv3d 与 SpatioTemporalAttention 两个模块,并导入 torch。

    import torch
    from make_a_video_pytorch import PseudoConv3d, SpatioTemporalAttention
  3. 3初始化两个模块

    按 README 示例设置 dim=256、kernel_size=3;注意力模块设置 dim_head=64、heads=8。

    conv = PseudoConv3d(dim=256, kernel_size=3)
    attn = SpatioTemporalAttention(dim=256, dim_head=64, heads=8)
  4. 4输入视频特征测试

    构造形状 (batch, features, frames, height, width) 的张量,分别前向得到卷积与注意力输出。

    video = torch.randn(1, 256, 8, 16, 16)
    conv_out = conv(video)
    attn_out = attn(video)
  5. 5用图像特征测试

    传入 4 维图像张量时,时间维卷积与注意力会被自动跳过,可直接用于 2D Unet 预训练。

    images = torch.randn(1, 256, 16, 16)
    conv_out = conv(images)
    attn_out = attn(images)

关键配置

配置项必填说明示例
dim是特征维度,示例中 PseudoConv3d 与注意力模块都设为 256256
kernel_size是伪 3D 卷积的卷积核大小3
dim_head是注意力每个头的维度64
heads是时空注意力的头数8

如何确认成功

运行示例代码不报错,conv_out 与 attn_out 形状分别为 (1,256,8,16,16)(视频)或 (1,256,16,16)(图像)。

常见问题

Q:必须安装 PyTorch 吗?

A:是的,README 示例中先 import torch,且输入张量由 torch.randn 生成,需自行确保环境中已装好 PyTorch。

Q:传入 4 维图像张量会怎样?

A:README 说明此时时间维卷积和时空注意力会自动跳过,等价于普通 2D 模块,方便先做图像预训练再迁移到 3D Unet。

Q:这个包能直接生成视频吗?

A:README 定位是组件实现(wip),提供 PseudoConv3d 和 SpatioTemporalAttention 这类模块,需要自行搭建完整模型与训练流程。

Q:视频张量各维含义是什么?

A:README 注释为 (batch, features, frames, height, width),即批大小、特征数、帧数、高、宽。

注意事项

  • 项目 README 标注为 wip(开发中),API 可能变动
  • README 未给出训练脚本、权重或推理端到端命令
  • PseudoConv3d 与 SpatioTemporalAttention 只是构建视频生成模型的组件,不代表完整 Make-A-Video 复现

核心亮点

  • 完整复现Make-A-Video架构,包含时空注意力和轴向卷积模块
  • 支持从预训练文本-图像模型微调,降低视频训练门槛
  • 提供推理脚本和示例,可快速生成文本对应的视频片段

不足之处

  • 非官方实现,与Meta原版可能存在细节差异
  • 训练资源需求高,普通硬件难以复现完整训练流程
  • 文档/社区待观察

适用场景

  • 学术研究:对比分析文本到视频生成模型结构
  • 创意内容:根据文案自动生成短视频素材
  • 教学演示:学习扩散模型在视频领域的应用

替代项目

VideoGPT、CogVideo、ModelScope Text-to-Video

同类项目推荐

LivePhoto 开源

输入一张照片和一句动作描述,即可生成动态视频

Official implementations for paper: LivePhoto: Real Image Animation with Text-guided···

★ 206 2026-08-09
ID-LoRA-LTX2.3-ComfyUI 开源

上传一张脸和一段声音,在 ComfyUI 里生成会说话的视频。

Custom ComfyUI node for generating videos with audio-visual identity based on a refe···

★ 150 2026-08-09
ComfyUI-MiniMax-H3-Promptor 开源

在 ComfyUI 里一键生成电影级 MiniMax H3 视频提示词

A powerful, ComfyUI Custom node automation suite for generating cinema-production-gr···

★ 265 2026-09-29
ComfyUI-Wan-VACE-Video-Joiner 开源

用Wan VACE在ComfyUI里给任意视频片段做丝滑过渡

ComfyUI workflows to create smooth transitions between video clips using Wan VACE. W···

★ 109 2026-08-09
UniAnimate 开源

一张图+动作序列,生成连贯人物动画视频

Code for SCIS-2025 Paper "UniAnimate: Taming Unified Video Diffusion Models for Cons···

★ 1191 2026-08-09
physgen 开源

给静态图片加上真实物理运动,生成物理正确的视频

PhysGen: Rigid-Body Physics-Grounded Image-to-Video Generation (ECCV 2024)

★ 357 2026-08-09
FancyVideo 开源

输入文字或图片,快速生成动态视频片段

Video generation from text&image, 1st-gen

★ 921 2026-08-09
InteractiveVideo 开源

用多模态指令随心操控视频生成,让创意精准落地

InteractiveVideo: User-Centric Controllable Video Generation with Synergistic Multim···

★ 133 2026-08-09
clipforge 开源

上传商品图,一键生成带货短视频,多平台可用

ClipForge(原『带货剪手』/ daihuo-jianshou):开源 AI 带货短视频神器——上传一张商品···

★ 1229 2026-08-09