NWT-pytorch

用音频驱动生成同步视频,快速上手跨模态生成

NWT-pytorch 是 NWT(Neural Waveform Transform)模型的非官方 PyTorch 实现,专注于音频到视频的生成任务。该项目旨在将音频信号(如语音、音乐)作为输入,生成与之同步的逼真视频帧,解决跨模态内容生成中的音画同步问题。核心能力包括:基于深度学习的音频特征提取与视频帧生成、时序对齐机制,以及端到端的训练与推理流程。项目代码结构清晰,提供了模型定义、训练脚本和示例,便于研究者复现和二次开发。目前项目处于早期阶段,星标数较少,但为音频驱动视频生成领域提供了一个可用的 PyTorch 参考实现。

开源 free 视频生成
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 92
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类视频生成
开发团队lucidrains
所属国家
官网地址
定价模式free
价格说明开源项目,MIT许可证,完全免费,无付费版本。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型artificial-intelligence,audio,deep-learning,video-generation
GitHub 星标★ 92
30天Star增速
HF 下载量
上线时间2021-06-09 00:00:00
最近更新2025-10-15 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

核心亮点

  • 提供完整的 PyTorch 实现,代码结构清晰,易于阅读和修改
  • 专注于音频到视频生成,解决音画同步这一具体场景问题
  • 包含训练和推理脚本,适合作为研究基线或二次开发起点

不足之处

  • 文档/社区待观察
  • 项目处于早期阶段,功能可能不完整,依赖配置需自行摸索

适用场景

  • 学术研究:音频驱动视频生成的算法验证与对比
  • 创意内容制作:根据音乐或语音自动生成视觉画面
  • 多模态学习:探索音频与视频特征对齐的技术方案

替代项目

Wav2Lip、Speech2Vid、MakeItTalk

项目介绍

NWT-pytorch 是视频领域的开源项目,由 lucidrains 开发,2021 年首次发布。

它收录于视频分类,该分类目前共有 473 个项目,GitHub 星标数为 92。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2025-10-15。MIT许可证,完全免费,无付费版本。

它主要面向的使用场景是:学术研究:音频驱动视频生成的算法验证与对比。同类可对比的替代方案包括 Wav2Lip、Speech2Vid、MakeItTalk。

同类项目推荐

MoneyPrinterTurbo 开源

输入一句话,高清短视频自动出炉,文案配音全包了

利用 AI 大模型和自动化工作流,根据主题或关键词一键生成高清短视频。Generate HD short ···

★ 125106 2026-08-09
seedance-2.0-api 开源

快速上手字节Seedance 2.0,文本/图片一键生成视频

Seedance 2.0 API — text-to-video and image-to-video examples

★ 332 2026-08-26
openscreen 开源

免费无水印录屏做演示,替代 Screen Studio

Record your screen, ship a demo. Free and open-source, GPU-accelerated, no watermark···

★ 3185 2026-08-10
MagicDance 开源

一张图+任意动作,生成身份不变的逼真人物视频

[ICML 2024] MagicPose(also known as MagicDance): Realistic Human Poses and Facial Ex···

★ 777 2026-08-09