TaoMate

一段音频,实时生成不崩脸的长视频数字人

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 数字人3D 🍴 复刻 46 🐛 待处理 1 👀 关注 19
GitHub ↗
GitHub 星标 ★ 513
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源项目,免费使用

项目预览

TaoMate 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类数字人3D
开发团队TaoLiveAIGC
定价模式🏷️完全免费
价格说明开源项目,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议NOASSERTION
主要语言Python
GitHub 星标★ 513
上线时间2026-07-24 00:00:00
代码更新2026-09-08
仓库体积209.4 MB
本站数据更新2026-11-03
维护状态维护中
收录时间2026-09-13
浏览次数2

项目介绍

TaoMate 是一个面向长时长音视频生成的实时数字人模型,用 Python 实现。它要解决的核心问题是:传统数字人方案在生成几分钟甚至更长的口播视频时,容易出现口型漂移、画面卡顿、身份不一致,且难以实时输出。TaoMate 通过一套面向长序列的生成管线,把音频驱动的人脸口型、头部姿态与画面渲染统一起来,在保持人物身份稳定的同时支持长时间连续生成。项目提供模型推理代码,可输入音频与参考人物图像,输出与之同步的数字人视频,适合做虚拟主播、课程讲解、播报类内容。当前项目处于早期阶段,星标约 475,接口和权重仍在迭代,适合愿意跟进前沿、自行调试的研究者和开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-13 · 当前星标 ★ 513

使用教程

难度:高级 约 120 分钟 部署方式:本地GPU 5 步

环境要求

  • CUDA 显卡
  • 指定版本 PyTorch
  • 较大显存

安装与启动步骤

  1. 1装指定版本框架

    它锁具体的框架版本组合,别用默认版本。

    pip install torch==2.8.0 torchvision==0.23.0 torchaudio==2.8.0
  2. 2装依赖

    按清单装。

    pip install -r requirements.txt
  3. 3先验显卡

    确认框架能认到卡再往下走。

    python -c "import torch; print(torch.cuda.device_count())"
  4. 4单卡推理

    先跑单卡,稳了再上多卡。

    bash scripts/inference/run_taomate_1gpu.sh
  5. 5起交互式数字人

    这条会把语音与视频串成一个栈。

    bash scripts/inference/start_interactive_avatar_stack.sh

如何确认成功

输入一段音频后生成对应的数字人说话视频,口型节奏与音频对齐、面部没有明显抖动

注意事项

  • 它做实时音视频数字人生成,核心是用锚点引导记忆来衔接演化状态与参考状态。
  • 框架版本锁得死,装错版本会在推理阶段报奇怪的错。
  • 单卡与多卡脚本都给了,先单卡验证。
  • 交互式栈还依赖外部语音组件,要单独准备。

核心亮点

  • 面向长时长音视频生成,重点解决长序列下的口型漂移与身份一致性
  • 支持实时推理,可用于直播、播报等对延迟敏感的场景
  • 纯 Python 实现,便于与现有音频、视频处理管线集成和二次开发

不足之处

  • 项目处于早期,模型权重、依赖版本和接口可能频繁变动
  • 文档与示例相对有限,长视频生成的显存占用和稳定性需自行验证

适用场景

  • 虚拟主播/数字人直播口播
  • 在线课程与知识讲解视频批量生成
  • 新闻播报、企业宣传等长视频内容制作

替代项目

SadTalker、Wav2Lip、Hallo

上一篇:opentalking

下一篇:Linly-Talker-Stream

同类项目推荐

LATO 开源

生成3D网格时保持拓扑结构,让模型更懂形状

Offical repo for the paper "LATO: 3D Mesh Flow Matching with Structured TOpology Pre···

★ 74 2026-08-09
MITSUHA 开源

给 AI 装上二次元身体,语音聊天更带感

Embodied 3D AI desktop companion powered by Ollama, dual voice synthesis (Fish Audio···

★ 291 2026-08-09
avast-core 开源

上网装上它,广告弹窗恶意链接全被拦下。

Avast Core

★ 16 2026-08-09
zero123-hf 开源

一张图,零样本生成 3D 模型,视角随意转

A diffuser implementation of Zero123. Zero-1-to-3: Zero-shot One Image to 3D Object ···

★ 154 2026-08-09
Director3D 开源

输入一句话,自动生成真实3D场景和相机运镜视频

Code for "Director3D: Real-world Camera Trajectory and 3D Scene Generation from Text···

★ 382 2026-08-09
opentalking 开源

私有部署的数字人框架,接上模型就能实时对话

OpenTalking: An industrial-grade open-source AI digital human framework that support···

★ 3298 2026-09-13
StableProjectorz 开源

在 Unity 里用 AI 一键生成 3D 模型和纹理,省时省力

A free tool for making 3D and textures via StableDiffusion AI.

★ 130 2026-08-09
location-based-AR-app 开源

用 Flutter 快速搭建带语音导航的 AR 定位应用

This Flutter project is an example for a location based AR app with navigation suppo···

★ 76 2026-08-09
DLRS 开源

把你备份成数字遗产,多年后仍能对话。

DLRS: Privacy-first digital life archive standard for consent governance, AI avatars···

★ 4 2026-08-09