ditto-talkinghead

音频驱动实时说话头像，运动空间扩散精准可控

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署视频生成 🍴 复刻 168 🐛 待处理 50 👀 关注 11

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 931

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0许可证，可免费使用和修改，无付费版本。

项目预览

ditto-talkinghead 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类视频生成

开发团队antgroup

官网地址https://digital-avatar.github.io/ai/Ditto

GitHubhttps://github.com/antgroup/ditto-talkinghead

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0许可证，可免费使用和修改，无付费版本。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型audio-driven-portrait-animations,ditto,generative-model,human-animation,talking-face-generation,talking-head,video-generation

GitHub 星标★ 931

上线时间2025-01-10 00:00:00

代码更新2025-11-12

仓库体积6.8 MB

本站数据更新2026-11-09

维护状态低维护

收录时间2026-08-09

浏览次数4

项目介绍

Ditto 是一个面向实时可控说话人头像合成的运动空间扩散模型，发表于 ACM MM 2025。它解决的是传统音频驱动肖像动画中动作僵硬、可控性差、实时性不足的问题。核心能力包括：将扩散模型应用于运动空间而非像素空间，显著提升生成效率；支持通过文本或动作序列精细控制头部姿态、表情和眼神；实现音频与运动特征的精准对齐，生成自然逼真的说话视频。项目提供完整训练和推理代码，支持自定义数据集，适合研究者和开发者快速上手。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 931

技术标签

generative-model talking-face-generation talking-head video-generation

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：高级约 60 分钟部署方式：本地 GPU 4 步

环境要求

NVIDIA GPU（建议 16GB 显存以上）
约 20GB 权重空间
ffmpeg

安装与启动步骤

1装依赖

克隆后按 README 装 Python 依赖，音频相关包较多，建议单独 conda 环境。

git clone https://github.com/antgroup/ditto-talkinghead
cd ditto-talkinghead
pip install -r requirements.txt

2下权重

官方权重放在 HuggingFace，直接 clone 到 checkpoints 目录即可被默认路径加载。
```
git clone https://huggingface.co/digital-avatar/ditto-talkinghead checkpoints
```
3跑推理

inference.py 需要一张人像图与一段音频，输出口型同步的说话视频。
```
python inference.py --source_image assets/example.png --driven_audio assets/example.wav
```
4可选 TensorRT 加速

有 NVIDIA 卡时可把 onnx 转 trt，推理速度提升明显，但转换耗时较长。
```
python scripts/cvt_onnx_to_trt.py --onnx_dir "./checkpoints/ditto_onnx" --trt_dir "./checkpoints/ditto_trt_custom"
```