
phenaki-pytorch
用文本生成最长2分钟视频,基于Mask GIT的PyTorch实现
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 790
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- NVIDIA GPU 24G+
- 大规模视频文本数据
安装与启动步骤
-
1装包
Phenaki 的 PyTorch 实现,文本生成长视频。
pip install phenaki-pytorch -
2准备数据
需要视频 + 文本对,仓库带数据集封装。
from phenaki_pytorch import VideoTokenizer, Phenaki -
3先训 tokenizer
视频要先压到离散 token 空间。
trainer.train() -
4再训生成模型
两阶段,顺序不能反。
trainer.train() # 加载 tokenizer 权重后
如何确认成功
训练 loss 下降,采样能得到连贯的短视频。
注意事项
- 它用 Mask GIT 做变长视频,理论上可生成两分钟。
- 个人复现基本只能验证代码,效果需要工业级数据。
- 显存不够就降帧数与分辨率,先求跑通。
核心亮点
- 支持生成长达2分钟的视频,远超多数文本生成视频模型
- 采用Mask GIT技术,生成质量与速度平衡较好
- 代码基于PyTorch,易于理解和修改,适合研究
不足之处
- 非官方实现,可能未完全对齐原论文细节
- 训练所需计算资源大,普通硬件难以运行
- 文档/社区待观察
适用场景
- 研究文本到视频生成算法,作为基线模型
- 快速生成短视频用于创意内容预览
- 教育演示,展示Mask GIT在视频生成中的应用
替代项目
VideoGPT、CogVideo、NUWA
同类项目推荐
EgoSim
开源
一句话生成第一人称交互视频,为具身智能造数据
[ECCV 2026] EgoSim: Egocentric World Simulator for Embodiment Interaction Generation
SolarWM
开源
一张图生成可延续的长时程视频世界
Open data and scalable training for long-horizon video world models.
narrator-ai-cli
开源
终端敲一敲,解说视频自动生成
AI 解说大师 — CLI 客户端;用于终端调用视频解说生成 API
video-editing-skill
开源
口播视频一句话指令,自动识别切句、烧字幕、拼成片
OpenClaw/Codex Skill: Auto video editing for talk/vlog videos — speech recognition,···
FableCut
开源
让 AI 直接驱动浏览器视频剪辑,JSON 时间线即所得
Zero-dependency browser video editor that AI agents can drive — JSON timeline, MCP ···
Imagine360
开源
从普通视频一键生成沉浸式360度全景视频
[Neurips 2025] Imagine360: Immersive 360 Video Generation from Perspective Anchor
yt-short-clipper
开源
长视频一键变竖屏高光短片,自动追踪人脸加字幕
Windows desktop app that turns long-form YouTube videos into 9:16 short-form clips —···
clip-gan
开源
用AI把音乐自动变成视觉大片,零剪辑经验也能玩
Create music videos using CLIP with BigGAN, DALL-E and StyleGAN
Pulse-of-Motion
开源
让AI生成的视频动起来更符合物理规律
The Pulse of Motion: Measuring Physical Frame Rate from Visual Dynamics