ComfyUI_Sonic

一张人像照加一段音频,在 ComfyUI 里生成会说话的数字人视频

开源 free 数字人3D
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 1141
维护状态 较活跃
是否开源 是
定价模式 free

项目预览

项目数据

分类数字人3D
开发团队smthemex
所属国家
官网地址
定价模式free
价格说明开源免费,需自行部署 ComfyUI 节点
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型
GitHub 星标★ 1141
30天Star增速
HF 下载量
上线时间2025-02-07 00:00:00
代码更新—
仓库体积—
本站数据更新—
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-10-16
浏览次数0

项目介绍

ComfyUI_Sonic 是把 Sonic 音频驱动人像动画方法接入 ComfyUI 的插件。Sonic 的核心思路是让模型从全局音频感知出发,而不是只盯着局部口型同步,从而在肖像动画中同时兼顾嘴型、表情、头部姿态和情绪节奏。项目解决的是传统音频驱动数字人容易出现的口型僵硬、表情呆板、动作与音频脱节等问题,让静态人像照片或视频在音频输入下自然动起来。作为 ComfyUI 节点,它把模型推理、音频处理和视频合成流程可视化,用户无需写代码即可搭建音频驱动人像动画工作流,适合数字人视频、虚拟主播、短视频口播等场景。项目用 Python 实现,星标约 1141,属于成长中的开源方案。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

难度:进阶 约 25 分钟 部署方式:本地安装 7 步

环境要求

  • 已安装 ComfyUI,存在 ./ComfyUI/custom_node 目录
  • 可用的 Python 与 pip 环境(用于安装 requirements.txt)
  • 需自行下载 Sonic 检查点:audio2bucket.pth、audio2token.pth、unet.pth、yoloface_v5m.pt
  • 需自行下载 openai/whisper-tiny 模型文件(config.json、model.safetensors)
  • 建议 12G 及以上显存,首次加载较大

安装与启动步骤

  1. 1进入插件目录

    切换到 ComfyUI 的自定义节点目录,后续克隆和安装都在这里进行。路径按 README 为 ./ComfyUI/custom_node。

    cd ./ComfyUI/custom_node
  2. 2克隆插件仓库

    在 custom_node 目录下克隆 ComfyUI_Sonic,克隆完成后会得到同名文件夹,作为 ComfyUI 节点加载。

    git clone https://github.com/smthemex/ComfyUI_Sonic.git
  3. 3安装 Python 依赖

    在插件目录(克隆出的 ComfyUI_Sonic 文件夹)内执行 README 给出的依赖安装命令,安装运行所需 Python 包。

    pip install -r requirements.txt
  4. 4下载 Sonic 模型

    从 README 给出的 Google Drive 链接下载检查点文件:audio2bucket.pth、audio2token.pth、unet.pth、yoloface_v5m.pt。

  5. 5下载 whisper-tiny

    从 README 给出的 HuggingFace 链接 openai/whisper-tiny 下载 config.json 与 model.safetensors,放入 whisper-tiny 子目录。

  6. 6放置模型目录

    按 README 的文件结构,把上述模型放到 ComfyUI/models/sonic/ 下,whisper-tiny 作为其子文件夹,放错位置节点会找不到模型。

  7. 7重启 ComfyUI

    重启 ComfyUI 使新插件被加载,之后在节点列表里查找 Sonic 相关节点搭建音频驱动人像工作流。

如何确认成功

重启后节点列表出现 Sonic 相关节点,且 ComfyUI/models/sonic/ 下 5 个模型文件(含 whisper-tiny 目录)齐全。

常见问题

Q:必须用哪张显卡/是否只能用 cuda:0?

A:README 更新说明提到已修复“有些人的电脑必须用 cuda:0,否则会报错”的问题,因此按当前版本正常指定设备即可。

Q:12G 显存首次运行报显存不足(OOM)怎么办?

A:README 说明已修复 12G VRAM 首次加载容易 OOM 的问题,建议更新到最新代码后重试。

Q:Mac 上 MPS 设备报错怎么办?

A:README 更新记录中已修复 MPS device error,更新插件后再运行即可。

Q:torch 2.11+cu130 下音频保存报 torchcodec ABI 不匹配?

A:该 fork 的默认分支 fix/torchaudio-soundfile 已用 soundfile.write 替代 torchaudio.save 来规避此问题,建议使用该分支。

Q:bf16 无法使用怎么办?

A:README 更新说明中已修复 bf16 无法使用的错误,更新插件版本后重试。

注意事项

  • 本项目是 smthemex/ComfyUI_Sonic 的下游 fork,默认分支为 fix/torchaudio-soundfile,如需规避 torchcodec 兼容问题请使用该分支。
  • 模型目录结构必须严格按 README:ComfyUI/models/sonic/ 下放 4 个权重文件,whisper-tiny 为其子目录。
  • README 未给出启动 ComfyUI 的命令,请按你本地既有的方式启动或重启 ComfyUI。
  • 下游改动清单可查看仓库中的 IMPROVEMENTS.md。

核心亮点

  • 把 Sonic 全局音频感知方法封装成 ComfyUI 节点,无需写代码即可搭建音频驱动人像动画流程
  • 强调全局音频感知而非仅局部口型同步,表情、头部姿态与音频节奏的配合更自然
  • 基于 ComfyUI 生态,可与已有图像、视频、采样节点组合,便于扩展和二次开发

不足之处

  • 依赖 ComfyUI 环境,独立部署或非 ComfyUI 用户使用门槛较高
  • 项目星标规模仍属成长阶段,模型权重、显存占用和长视频稳定性等文档与社区支持有待观察

适用场景

  • 用一张人物照片和一段配音,快速生成口播数字人短视频
  • 为虚拟主播或课程讲解制作音频驱动的肖像动画素材
  • 在 ComfyUI 工作流中批量生成带表情和口型同步的人像视频

替代项目

SadTalker、Wav2Lip

上一篇:d4rkAvatarOptimizer

下一篇:没有了!

同类项目推荐

A3D 开源

在 three.js 里直接调用 AI 生成纹理和素材,边建模边生成

3D x AI hybrid editor, built with three.js

★ 129 2026-08-09
cube 开源

用一句话生成 3D 模型,在 Roblox 里快速落地 AI 创作

Roblox Foundation Model for 3D Intelligence

★ 1277 2026-08-09
ai-avatar-system 开源

一张照片加一段声音,秒变会说话的数字人。

AI Avatar / digital human platform — upload a photo, clone a voice, talk to any fac···

★ 534 2026-08-09
AG3D 开源

用2D图片直接生成3D虚拟人,告别昂贵扫描

Official code release for ICCV2023 paper AG3D: Learning to Generate 3D Avatars from ···

★ 273 2026-08-09