项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-10-26 · 当前星标 ★ 1123
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Python 3.10 或更高版本
- CUDA 12.4 或更高版本的 GPU 环境
- 系统级安装 ffmpeg
- 可编译安装 flash-attn 的构建环境(含 CUDA 工具链)
安装与启动步骤
-
1检查基础环境
确认 python 版本不低于 3.10、CUDA 不低于 12.4,并已具备系统级 ffmpeg,否则后续依赖会安装失败。
python --version nvcc --version ffmpeg -version -
2安装 PyTorch
按 README 指定从 CUDA 12.4 官方源安装 torch、torchvision、torchaudio 三个固定版本。
pip install torch==2.7.1 torchvision==0.22.1 torchaudio==2.7.1 --index-url https://download.pytorch.org/whl/cu124 -
3安装核心依赖
在项目根目录执行,安装 requirements.txt 中列出的 diffusers、transformers、triton 等依赖。
pip install -r requirements.txt -
4安装 FlashAttention
需在本机 CUDA 环境编译,必须加 --no-build-isolation,否则会因隔离环境找不到 torch 而失败。
pip install flash-attn --no-build-isolation -
5安装 ffmpeg
音视频读写依赖系统级 ffmpeg,用 apt 安装;非 Debian 系请用对应包管理器。
sudo apt-get install ffmpeg -
6验证安装
导入全部关键库并打印版本号,用于确认依赖齐全、CUDA 相关包可正常加载。
python -c " import torch, diffusers, transformers, flash_attn, triton from audiotools import AudioSignal from decord import VideoReader print(f'torch {torch.__version__}') print(f'diffusers {diffusers.__version__}') print(f'transformers {transformers.__version__}') print(f'flash_attn {flash_attn.__version__}') print(f'triton {triton.__version__}') print('All imports OK ✅')" -
7多节点批量安装
仅多机集群需要:用 pdsh 把关键包并行装到各节点,节点列表由环境变量提供。
export node_ip=$(echo ${NODE_IP_LIST} | sed 's/:8//g') pdsh -f 256 -w $node_ip "pip install ipdb yunchang mmengine" pdsh -f 256 -w $node_ip "pip uninstall diffusers -y && pip install diffusers==0.33.0" pdsh -f 256 -w $node_ip "pip install descript-audiotools" pdsh -f 256 -w $node_ip "pip install imageio[ffmpeg] imageio[pyav]" pdsh -f 256 -w $node_ip "pip install decord" pdsh -f 256 -w $node_ip "pip install flash-attn --no-build-isolation"
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
NODE_IP_LIST | 否 | 多节点集群场景下供 pdsh 解析的节点地址列表,单机部署无需设置。 | 10.0.0.1:8,10.0.0.2:8 |
如何确认成功
执行验证命令后,终端依次打印 torch、diffusers、transformers、flash_attn、triton 版本号,并输出 All imports OK ✅。
常见问题
Q:安装 flash-attn 时报找不到 torch 怎么办?
A:务必加上 --no-build-isolation 参数,让编译过程复用当前环境已装好的 torch,而不是在隔离环境里重新解析依赖。
Q:diffusers 版本需要固定吗?
A:多节点脚本中会卸载现有 diffusers 并安装 0.33.0,单机安装也建议与之对齐,避免接口不兼容。
Q:为什么验证脚本要导入 audiotools 和 decord?
A:这两个库分别用于音频信号与视频读取,属于训练和推理链路的一部分,能导入说明音视频依赖完整。
Q:没有 GPU 可以跑吗?
A:README 要求 CUDA 12.4 及以上并需编译 FlashAttention,纯 CPU 环境无法完成安装,需准备支持 CUDA 的机器。
注意事项
- README 只提供环境安装部分,未给出推理与训练启动命令,实际运行请以官方仓库和模型页面说明为准。
- flash-attn 编译耗时较长,建议先装好与 CUDA 匹配的 PyTorch 再执行。
- 多节点批量安装脚本会改动各节点的 diffusers 版本,请在集群环境中确认影响范围后再执行。
- 2K 原生训练显存开销大,请提前评估单卡或多卡资源。
核心亮点
- 动态稀疏注意力按内容自适应选择连接,比固定稀疏模式更贴合视频-音频联合建模
- 面向 2K 原生训练设计,减少对低分辨率预训练加超分两阶段流程的依赖
- 同时覆盖视频与音频联合生成,注意力设计考虑音视频对齐
不足之处
- 项目处于成长阶段,文档与训练脚本的完整度待观察
- 动态稀疏模式可能引入额外调度开销,实际加速比依赖硬件与实现细节
- 缺少大规模公开基准与社区复现报告,效果稳定性待验证
适用场景
- 研究高分辨率视频-音频联合生成模型的训练效率优化
- 在有限显存下尝试 2K 分辨率扩散模型的原生训练
- 为视频生成模型替换注意力层以降低长序列计算成本
替代项目
Sparse-VideoGen、Open-Sora、CogVideo
上一篇:causalml
下一篇:parameter-golf
同类项目推荐
DuQuant
开源
双变换打散异常值,低比特量化模型更强
[NeurIPS 2024 Oral] DuQuant: Distributing Outliers via Dual Transformation Makes Str···
remote-gpu-trainer
开源
远程GPU训练全流程管理,从运行到交付可复现结果
An Agent Skill for Claude Code, Codex and other coding agents: train on rented GPUs ···
UniDiffusion
开源
一站式训练扩散模型,切换多种个性化方法无需改代码
A Diffusion training toolbox based on diffusers and existing SOTA methods, including···
JetSpec
开源
让大模型推理更快:并行草稿树突破推测解码速度天花板
JetSpec: Breaking the Scaling Ceiling of Speculative Decoding with Causal Parallel T···
finetuned-qlora-falcon7b-medical
开源
用QLoRA微调Falcon-7B,打造心理健康对话助手
Finetuning of Falcon-7B LLM using QLoRA on Mental Health Conversational Dataset
tunix
开源
用 JAX 搭积木做 LLM 后训练,算法随便换
A Lightweight LLM Post-Training Library
GEPA-Lite
开源
用遗传算法自动调优提示词,多目标优化提升模型输出质量
A lightweight implementation of the GEPA (Genetic-Pareto) prompt optimization method···
FineEnvs
开源
快速搭 LLM 强化学习环境,从定义到训练一条龙
FineEnvs — RL Environments 101: building and scaling RL environments in the age of ···
XTTSv2-Finetuning-for-New-Langua···
开源
给XTTS v2添加新语言,微调后即可合成和克隆声音
