Prism

动态稀疏注意力,让2K音视频生成模型原生训练更省算力

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 模型训练 🍴 复刻 10 🐛 待处理 1 👀 关注 2
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 1123
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,免费使用

项目预览

Prism 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类模型训练
开发团队Tencent-Hunyuan
定价模式🏷️完全免费
价格说明开源项目,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型diffusion-models,high-resolution,sparse-attention,video-generation
GitHub 星标★ 1123
上线时间2026-09-21 00:00:00
代码更新2026-10-15
仓库体积24.7 MB
本站数据更新2026-10-26
维护状态较活跃
收录时间2026-10-26
浏览次数0

项目介绍

Prism 是一个面向联合视频-音频生成模型的动态稀疏注意力框架,目标是在 2K 分辨率下原生训练扩散模型。视频与音频联合生成在高分辨率下注意力计算量随 token 数呈平方增长,显存与算力开销极大,Prism 通过动态稀疏注意力机制降低注意力层的计算与显存成本,使模型能在 2K 尺度上直接训练而非依赖低分辨率预训练再超分。核心能力包括:可学习的动态稀疏模式选择,按内容自适应决定注意力连接;面向视频-音频联合建模的注意力设计,兼顾时空与音视频对齐;与扩散训练流程集成,支持原生高分辨率训练。项目以 Python 实现,技术栈围绕 diffusion-models、high-resolution、sparse-attention、video-generation,适合研究高分辨率音视频生成训练效率的团队参考与复现。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-26 · 当前星标 ★ 1123

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:进阶 约 30 分钟 部署方式:本地安装 7 步

环境要求

  • Python 3.10 或更高版本
  • CUDA 12.4 或更高版本的 GPU 环境
  • 系统级安装 ffmpeg
  • 可编译安装 flash-attn 的构建环境(含 CUDA 工具链)

安装与启动步骤

  1. 1检查基础环境

    确认 python 版本不低于 3.10、CUDA 不低于 12.4,并已具备系统级 ffmpeg,否则后续依赖会安装失败。

    python --version
    nvcc --version
    ffmpeg -version
  2. 2安装 PyTorch

    按 README 指定从 CUDA 12.4 官方源安装 torch、torchvision、torchaudio 三个固定版本。

    pip install torch==2.7.1 torchvision==0.22.1 torchaudio==2.7.1 --index-url https://download.pytorch.org/whl/cu124
  3. 3安装核心依赖

    在项目根目录执行,安装 requirements.txt 中列出的 diffusers、transformers、triton 等依赖。

    pip install -r requirements.txt
  4. 4安装 FlashAttention

    需在本机 CUDA 环境编译,必须加 --no-build-isolation,否则会因隔离环境找不到 torch 而失败。

    pip install flash-attn --no-build-isolation
  5. 5安装 ffmpeg

    音视频读写依赖系统级 ffmpeg,用 apt 安装;非 Debian 系请用对应包管理器。

    sudo apt-get install ffmpeg
  6. 6验证安装

    导入全部关键库并打印版本号,用于确认依赖齐全、CUDA 相关包可正常加载。

    python -c "
    import torch, diffusers, transformers, flash_attn, triton
    from audiotools import AudioSignal
    from decord import VideoReader
    print(f'torch          {torch.__version__}')
    print(f'diffusers      {diffusers.__version__}')
    print(f'transformers   {transformers.__version__}')
    print(f'flash_attn     {flash_attn.__version__}')
    print(f'triton         {triton.__version__}')
    print('All imports OK ✅')"
  7. 7多节点批量安装

    仅多机集群需要:用 pdsh 把关键包并行装到各节点,节点列表由环境变量提供。

    export node_ip=$(echo ${NODE_IP_LIST} | sed 's/:8//g')
    pdsh -f 256 -w $node_ip "pip install ipdb yunchang mmengine"
    pdsh -f 256 -w $node_ip "pip uninstall diffusers -y && pip install diffusers==0.33.0"
    pdsh -f 256 -w $node_ip "pip install descript-audiotools"
    pdsh -f 256 -w $node_ip "pip install imageio[ffmpeg] imageio[pyav]"
    pdsh -f 256 -w $node_ip "pip install decord"
    pdsh -f 256 -w $node_ip "pip install flash-attn --no-build-isolation"

关键配置

配置项必填说明示例
NODE_IP_LIST否多节点集群场景下供 pdsh 解析的节点地址列表,单机部署无需设置。10.0.0.1:8,10.0.0.2:8

如何确认成功

执行验证命令后,终端依次打印 torch、diffusers、transformers、flash_attn、triton 版本号,并输出 All imports OK ✅。

常见问题

Q:安装 flash-attn 时报找不到 torch 怎么办?

A:务必加上 --no-build-isolation 参数,让编译过程复用当前环境已装好的 torch,而不是在隔离环境里重新解析依赖。

Q:diffusers 版本需要固定吗?

A:多节点脚本中会卸载现有 diffusers 并安装 0.33.0,单机安装也建议与之对齐,避免接口不兼容。

Q:为什么验证脚本要导入 audiotools 和 decord?

A:这两个库分别用于音频信号与视频读取,属于训练和推理链路的一部分,能导入说明音视频依赖完整。

Q:没有 GPU 可以跑吗?

A:README 要求 CUDA 12.4 及以上并需编译 FlashAttention,纯 CPU 环境无法完成安装,需准备支持 CUDA 的机器。

注意事项

  • README 只提供环境安装部分,未给出推理与训练启动命令,实际运行请以官方仓库和模型页面说明为准。
  • flash-attn 编译耗时较长,建议先装好与 CUDA 匹配的 PyTorch 再执行。
  • 多节点批量安装脚本会改动各节点的 diffusers 版本,请在集群环境中确认影响范围后再执行。
  • 2K 原生训练显存开销大,请提前评估单卡或多卡资源。

核心亮点

  • 动态稀疏注意力按内容自适应选择连接,比固定稀疏模式更贴合视频-音频联合建模
  • 面向 2K 原生训练设计,减少对低分辨率预训练加超分两阶段流程的依赖
  • 同时覆盖视频与音频联合生成,注意力设计考虑音视频对齐

不足之处

  • 项目处于成长阶段,文档与训练脚本的完整度待观察
  • 动态稀疏模式可能引入额外调度开销,实际加速比依赖硬件与实现细节
  • 缺少大规模公开基准与社区复现报告,效果稳定性待验证

适用场景

  • 研究高分辨率视频-音频联合生成模型的训练效率优化
  • 在有限显存下尝试 2K 分辨率扩散模型的原生训练
  • 为视频生成模型替换注意力层以降低长序列计算成本

替代项目

Sparse-VideoGen、Open-Sora、CogVideo

上一篇:causalml

下一篇:parameter-golf

同类项目推荐

DuQuant 开源

双变换打散异常值,低比特量化模型更强

[NeurIPS 2024 Oral] DuQuant: Distributing Outliers via Dual Transformation Makes Str···

★ 188 2026-08-09
remote-gpu-trainer 开源

远程GPU训练全流程管理,从运行到交付可复现结果

An Agent Skill for Claude Code, Codex and other coding agents: train on rented GPUs ···

★ 42 2026-08-09
UniDiffusion 开源

一站式训练扩散模型,切换多种个性化方法无需改代码

A Diffusion training toolbox based on diffusers and existing SOTA methods, including···

★ 84 2026-08-09
JetSpec 开源

让大模型推理更快:并行草稿树突破推测解码速度天花板

JetSpec: Breaking the Scaling Ceiling of Speculative Decoding with Causal Parallel T···

★ 241 2026-08-09
tunix 开源

用 JAX 搭积木做 LLM 后训练,算法随便换

A Lightweight LLM Post-Training Library

★ 2493 2026-09-16
GEPA-Lite 开源

用遗传算法自动调优提示词,多目标优化提升模型输出质量

A lightweight implementation of the GEPA (Genetic-Pareto) prompt optimization method···

★ 58 2026-08-09
FineEnvs 开源

快速搭 LLM 强化学习环境,从定义到训练一条龙

FineEnvs — RL Environments 101: building and scaling RL environments in the age of ···

★ 530 2026-09-27