
Text-To-Video-Finetuning
用 Diffusers 微调文本生成视频模型,定制专属视频风格
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 705
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- CUDA GPU(建议 24GB+)
- Python 3.10
- 自己的视频数据集
安装与启动步骤
-
1克隆仓库
这是文生视频模型的微调框架,不是开箱即用的应用。
git clone https://github.com/ExponentialML/Text-To-Video-Finetuning.git -
2拉底座模型
从 Hugging Face 把底座拉到本地目录,路径要和训练配置对应。
git clone https://huggingface.co/damo-vilab/text-to-video-ms-1.7b ./models/model_scope_diffusers/ -
3建环境装依赖
官方给的是 python 3.10 的 conda 环境,xformers 可选但能省显存。
conda create -n text2video-finetune python=3.10 -
4准备训练配置
配置里控制分辨率、帧数和学习率,显存不够先降帧数。
-
5启动训练
训练过程中关注 loss 和显存曲线,异常早停比跑完再看划算。
python train.py --config ./configs/v2/train_config.yaml
如何确认成功
训练日志有 loss 输出并稳定下降,checkpoint 正常落盘
注意事项
- 微调数据量小的时候容易过拟合,先小步数看效果。
- 推理脚本支持 --help 查参数,别照抄文档里过期的写法。
核心亮点
- 提供完整的微调训练脚本,开箱即用
- 基于 Diffusers,与 Hugging Face 生态兼容性好
- 支持自定义数据集,灵活适配不同场景
不足之处
- 文档/社区待观察
- 依赖特定模型和库,环境配置可能复杂
适用场景
- 为特定行业生成定制化视频内容
- 研究文本到视频模型的领域适配
- 在有限数据上提升视频生成质量
替代项目
ModelScope Text-to-Video、Stable Diffusion Video、CogVideo
上一篇:TinyEngram
下一篇:distill-sd
同类项目推荐
MPO
开源
让LLM智能体先学会定计划,再动手执行,提升复杂任务成功率
MPO: Boosting LLM Agents with Meta Plan Optimization (EMNLP 2025 Findings)
DataMate
开源
一站式搞定大模型微调与RAG的数据处理,让数据准备不再拖后腿
DataMate is an enterprise-level data processing platform designed for model fine-tun···
GEM
开源
微调时保住模型创造力,让生成不再千篇一律
Code for Paper (Preserving Diversity in Supervised Fine-tuning of Large Language Mod···
PyTorch-CycleGAN
开源
用无配对图片训练,轻松实现风格迁移和图像转换
A clean and readable Pytorch implementation of CycleGAN
pruna
开源
一键优化 AI 模型,推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···
Self-Supervised-Gans-Pytorch
开源
用旋转自监督让 GAN 训练更稳,生成图像更逼真
Ready to train Pytorch implementation of the CVPR'19 paper "Self-Supervised GANs via···
Chain-of-Embedding
开源
不生成文字,用嵌入链提前预判大模型输出质量
[ICLR 2025] Code and Data Repo for Paper "Latent Space Chain-of-Embedding Enables Ou···
Kiln
开源
一站式搞定 AI 系统开发:从数据标注到微调评估,全流程可视化协作
Build, Evaluate, and Optimize AI Systems. Includes evals, RAG, agents, fine-tuning, ···
dreambooth-keras
开源
用 TensorFlow 微调 Stable Diffusion,实现个性化图像生成。
Implementation of DreamBooth in KerasCV and TensorFlow.