phenaki-pytorch

用文本生成最长2分钟视频,基于Mask GIT的PyTorch实现

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 视频生成 🍴 复刻 80 🐛 待处理 14 👀 关注 35
GitHub ↗
GitHub 星标 ★ 790
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,需自行部署使用。

项目预览

phenaki-pytorch 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类视频生成
开发团队lucidrains
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,需自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型artificial-intelligence,attention-mechanisms,deep-learning,imagination-machine,text-to-video,transformers
GitHub 星标★ 790
上线时间2022-09-29 00:00:00
代码更新2024-07-29
仓库体积272 KB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

Phenaki-PyTorch 是 Phenaki 视频生成模型的非官方 PyTorch 实现。Phenaki 由 Google 提出,核心创新在于利用 Mask GIT(掩码生成图像变换)技术,能够根据文本描述生成最长可达 2 分钟的视频。该项目解决了现有文本到视频模型生成时长短、依赖大规模视频-文本配对数据的问题,通过将视频压缩为离散视觉令牌序列,并使用双向 Transformer 进行掩码预测,实现长视频的生成。核心能力包括:文本条件视频生成、可变长度视频生成(从几秒到2分钟)、基于因果 Transformer 的时序建模,以及支持视频扩展(续写)。项目代码结构清晰,基于 PyTorch 和现有图像生成库(如 VQGAN)构建,适合研究者和开发者进行二次开发与实验。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 790

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:高级 约 40 分钟 部署方式:本地安装 4 步

环境要求

  • NVIDIA GPU 24G+
  • 大规模视频文本数据

安装与启动步骤

  1. 1装包

    Phenaki 的 PyTorch 实现,文本生成长视频。

    pip install phenaki-pytorch
  2. 2准备数据

    需要视频 + 文本对,仓库带数据集封装。

    from phenaki_pytorch import VideoTokenizer, Phenaki
  3. 3先训 tokenizer

    视频要先压到离散 token 空间。

    trainer.train()
  4. 4再训生成模型

    两阶段,顺序不能反。

    trainer.train()  # 加载 tokenizer 权重后

如何确认成功

训练 loss 下降,采样能得到连贯的短视频。

注意事项

  • 它用 Mask GIT 做变长视频,理论上可生成两分钟。
  • 个人复现基本只能验证代码,效果需要工业级数据。
  • 显存不够就降帧数与分辨率,先求跑通。

核心亮点

  • 支持生成长达2分钟的视频,远超多数文本生成视频模型
  • 采用Mask GIT技术,生成质量与速度平衡较好
  • 代码基于PyTorch,易于理解和修改,适合研究

不足之处

  • 非官方实现,可能未完全对齐原论文细节
  • 训练所需计算资源大,普通硬件难以运行
  • 文档/社区待观察

适用场景

  • 研究文本到视频生成算法,作为基线模型
  • 快速生成短视频用于创意内容预览
  • 教育演示,展示Mask GIT在视频生成中的应用

替代项目

VideoGPT、CogVideo、NUWA

上一篇:ConsisID

下一篇:YUME

同类项目推荐

EgoSim 开源

一句话生成第一人称交互视频,为具身智能造数据

[ECCV 2026] EgoSim: Egocentric World Simulator for Embodiment Interaction Generation

★ 73 2026-08-09
SolarWM 开源

一张图生成可延续的长时程视频世界

Open data and scalable training for long-horizon video world models.

★ 909 2026-10-17
narrator-ai-cli 开源

终端敲一敲,解说视频自动生成

AI 解说大师 — CLI 客户端;用于终端调用视频解说生成 API

★ 149 2026-08-09
video-editing-skill 开源

口播视频一句话指令,自动识别切句、烧字幕、拼成片

OpenClaw/Codex Skill: Auto video editing for talk/vlog videos — speech recognition,···

★ 207 2026-10-01
FableCut 开源

让 AI 直接驱动浏览器视频剪辑,JSON 时间线即所得

Zero-dependency browser video editor that AI agents can drive — JSON timeline, MCP ···

★ 784 2026-08-09
Imagine360 开源

从普通视频一键生成沉浸式360度全景视频

[Neurips 2025] Imagine360: Immersive 360 Video Generation from Perspective Anchor

★ 190 2026-08-09
yt-short-clipper 开源

长视频一键变竖屏高光短片,自动追踪人脸加字幕

Windows desktop app that turns long-form YouTube videos into 9:16 short-form clips —···

★ 1072 2026-09-16
clip-gan 开源

用AI把音乐自动变成视觉大片,零剪辑经验也能玩

Create music videos using CLIP with BigGAN, DALL-E and StyleGAN

★ 57 2026-08-09
Pulse-of-Motion 开源

让AI生成的视频动起来更符合物理规律

The Pulse of Motion: Measuring Physical Frame Rate from Visual Dynamics

★ 73 2026-08-09