项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
技术标签
使用教程
—
环境要求
- 已安装 ComfyUI,存在 ./ComfyUI/custom_node 目录
- 可用的 Python 与 pip 环境(用于安装 requirements.txt)
- 需自行下载 Sonic 检查点:audio2bucket.pth、audio2token.pth、unet.pth、yoloface_v5m.pt
- 需自行下载 openai/whisper-tiny 模型文件(config.json、model.safetensors)
- 建议 12G 及以上显存,首次加载较大
安装与启动步骤
-
1进入插件目录
切换到 ComfyUI 的自定义节点目录,后续克隆和安装都在这里进行。路径按 README 为 ./ComfyUI/custom_node。
cd ./ComfyUI/custom_node -
2克隆插件仓库
在 custom_node 目录下克隆 ComfyUI_Sonic,克隆完成后会得到同名文件夹,作为 ComfyUI 节点加载。
git clone https://github.com/smthemex/ComfyUI_Sonic.git -
3安装 Python 依赖
在插件目录(克隆出的 ComfyUI_Sonic 文件夹)内执行 README 给出的依赖安装命令,安装运行所需 Python 包。
pip install -r requirements.txt -
4下载 Sonic 模型
从 README 给出的 Google Drive 链接下载检查点文件:audio2bucket.pth、audio2token.pth、unet.pth、yoloface_v5m.pt。
-
5下载 whisper-tiny
从 README 给出的 HuggingFace 链接 openai/whisper-tiny 下载 config.json 与 model.safetensors,放入 whisper-tiny 子目录。
-
6放置模型目录
按 README 的文件结构,把上述模型放到 ComfyUI/models/sonic/ 下,whisper-tiny 作为其子文件夹,放错位置节点会找不到模型。
-
7重启 ComfyUI
重启 ComfyUI 使新插件被加载,之后在节点列表里查找 Sonic 相关节点搭建音频驱动人像工作流。
如何确认成功
重启后节点列表出现 Sonic 相关节点,且 ComfyUI/models/sonic/ 下 5 个模型文件(含 whisper-tiny 目录)齐全。
常见问题
Q:必须用哪张显卡/是否只能用 cuda:0?
A:README 更新说明提到已修复“有些人的电脑必须用 cuda:0,否则会报错”的问题,因此按当前版本正常指定设备即可。
Q:12G 显存首次运行报显存不足(OOM)怎么办?
A:README 说明已修复 12G VRAM 首次加载容易 OOM 的问题,建议更新到最新代码后重试。
Q:Mac 上 MPS 设备报错怎么办?
A:README 更新记录中已修复 MPS device error,更新插件后再运行即可。
Q:torch 2.11+cu130 下音频保存报 torchcodec ABI 不匹配?
A:该 fork 的默认分支 fix/torchaudio-soundfile 已用 soundfile.write 替代 torchaudio.save 来规避此问题,建议使用该分支。
Q:bf16 无法使用怎么办?
A:README 更新说明中已修复 bf16 无法使用的错误,更新插件版本后重试。
注意事项
- 本项目是 smthemex/ComfyUI_Sonic 的下游 fork,默认分支为 fix/torchaudio-soundfile,如需规避 torchcodec 兼容问题请使用该分支。
- 模型目录结构必须严格按 README:ComfyUI/models/sonic/ 下放 4 个权重文件,whisper-tiny 为其子目录。
- README 未给出启动 ComfyUI 的命令,请按你本地既有的方式启动或重启 ComfyUI。
- 下游改动清单可查看仓库中的 IMPROVEMENTS.md。
核心亮点
- 把 Sonic 全局音频感知方法封装成 ComfyUI 节点,无需写代码即可搭建音频驱动人像动画流程
- 强调全局音频感知而非仅局部口型同步,表情、头部姿态与音频节奏的配合更自然
- 基于 ComfyUI 生态,可与已有图像、视频、采样节点组合,便于扩展和二次开发
不足之处
- 依赖 ComfyUI 环境,独立部署或非 ComfyUI 用户使用门槛较高
- 项目星标规模仍属成长阶段,模型权重、显存占用和长视频稳定性等文档与社区支持有待观察
适用场景
- 用一张人物照片和一段配音,快速生成口播数字人短视频
- 为虚拟主播或课程讲解制作音频驱动的肖像动画素材
- 在 ComfyUI 工作流中批量生成带表情和口型同步的人像视频
替代项目
SadTalker、Wav2Lip
下一篇:没有了!
同类项目推荐
A3D
开源
在 three.js 里直接调用 AI 生成纹理和素材,边建模边生成
3D x AI hybrid editor, built with three.js
cube
开源
用一句话生成 3D 模型,在 Roblox 里快速落地 AI 创作
Roblox Foundation Model for 3D Intelligence
一张照片加一段声音,秒变会说话的数字人。
AI Avatar / digital human platform — upload a photo, clone a voice, talk to any fac···
AG3D
开源
用2D图片直接生成3D虚拟人,告别昂贵扫描
Official code release for ICCV2023 paper AG3D: Learning to Generate 3D Avatars from ···
