
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 538
技术标签
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- CUDA 显卡
- 语音数据集
- Python 3.10+
安装与启动步骤
-
1拉仓库装依赖
它是在语音合成项目上做的扩展,依赖较重。
git clone https://github.com/see2023/Bert-VITS2-ext.git -
2先备语音数据
按项目要求整理音频与文本标注。
-
3训带口型的模型
加参数开启口型通道,这是它和原版的主要差别。
python train_ms.py -m OUTPUT_MODEL --config ./configs/config.json --visemes -
4录一段动作数据
要驱动虚拟形象的话,先按说明采集面部数据。
python ./motion/record.py -
5导出驱动序列
把音频转成引擎能吃的口型与表情序列。
python ./motion/tts2ue.py --bs_npy_file ./tmp.npy --wav_file ./tmp.wav --delay_ms 700
如何确认成功
用一句新文本合成语音并导出配套口型序列,在引擎里播放时嘴型与发音基本对齐且没有明显延迟
注意事项
- 它在语音合成基础上加了视觉口型通道,目标是让虚拟形象的口型跟着走。
- 口型与音频的对齐要调延迟参数,不同引擎差别明显。
- 训练数据质量直接决定口型准确度。
- 扩展部分的文档偏少,多数细节要读脚本参数。
核心亮点
- 整合了表情与动作生成,使TTS输出不再局限于音频,直接产出可视化内容
- 基于成熟的Bert-VITS2和GPT-SoVITS,语音合成质量有保障
- 支持ARKit和text-to-motion,技术栈前沿,易于扩展真实感数字人
不足之处
- 项目处于早期,文档和示例可能不够完善
- 依赖多种重型框架(如MetaHuman),部署和运行门槛较高
适用场景
- 虚拟主播或数字人直播时的实时表情与口型同步
- 游戏NPC对话时的动态表情和肢体动作生成
- 快速原型验证TTS与动画结合的效果
替代项目
SadTalker、Wav2Lip、GeneFace
上一篇:VideoChat
同类项目推荐
Hunyuan3D-2-WinPortable
开源
Windows上双击即用的腾讯混元3D生成工具
Portable package for running Hunyuan3D 2.0/2.1 on Windows. | 混元 3D 2.0/2.1 整合包
image-to-3dlab
开源
本地把图片文字变成带骨骼的游戏 3D 模型
AssetFurnace: the most complete open-source image-to-3D pipeline (Oct 2026). Prompt ···
img2threejs
开源
看图片,自动生成可动画的 Three.js 模型代码
Rebuild the object in a reference image as a code-only, procedural, quality-gated, a···
ACTalker
开源
一句话生成逼真数字人视频,音频表情随心控
ICCV 2025 ACTalker: an end-to-end video diffusion framework for talking head synthes···
造一个自己的数字分身,张嘴就能实时唠嗑。
AI Avatar: Build Your Personal Digital Avatar. AI数字人,实时交互数字人,可音视频同步···
LLMUnity
开源
在 Unity 里拖拽几下,就能让 NPC 开口聊大模型。
Create characters in Unity with LLMs!
BlenderLLM
开源
说句话,自动生成 Blender 3D 模型脚本
BlenderLLM: A LLM specifically designed to generate CAD scripts based on user instru···
SUPRA-Tex
开源
一句话生成带对齐纹理和PBR材质的3D模型
SUPRA-Tex: 3D Generation with Super-Aligned Texture
kiln
开源
让编程代理用代码生成并迭代 3D 模型
Build and revise procedural 3D assets with your coding agent. Local MCP server, CLI ···