
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2967
技术标签
使用教程
环境要求
- Python 3.10.7(README 注明代码仅在该版本下测试过)
- 一块 DeepSpeed 已开发并测试过的 GPU
- 预装 CUDA 或 ROCm 编译器(用于安装本包)
- 训练数据的音频文件后缀为 .wav,对应文本文件后缀为 .normalized.txt
安装与启动步骤
-
1确认硬件环境
训练器基于 DeepSpeed,需使用 DeepSpeed 支持并测试过的 GPU,并预装 CUDA 或 ROCm 编译器。
-
2pip 安装 vall-e
直接用 pip 从 GitHub 仓库安装,适合只想作为依赖使用的场景。
pip install git+https://github.com/enhuiz/vall-e -
3或克隆仓库
若需修改代码或跑训练脚本,可克隆仓库,注意加上 --recurse-submodules 拉取子模块。
git clone --recurse-submodules https://github.com/enhuiz/vall-e.git -
4准备训练数据
把数据放入一个目录,例如 data/your_data;音频命名后缀 .wav,文本后缀 .normalized.txt。
-
5量化音频数据
用 EnCodec 分词器把音频离散化为神经编解码 token。
python -m vall_e.emb.qnt data/your_data -
6生成音素
根据文本生成音素特征,供语言模型训练使用。
python -m vall_e.emb.g2p data/your_data -
7自定义配置
在 config/your_data/ 下新建 ar.yml 与 nar.yml,可参考仓库中的示例配置修改。
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
config/your_data/ar.yml | 是 | 自回归(AR)部分的训练配置,需自行创建并参考示例配置 | config/your_data/ar.yml |
config/your_data/nar.yml | 是 | 非自回归(NAR)部分的训练配置,需自行创建并参考示例配置 | config/your_data/nar.yml |
如何确认成功
README 未给出启动验证方式;安装过程无报错、量化与音素脚本正常运行即表示流程通畅。
常见问题
Q:需要什么样的 GPU?
A:README 指出训练器基于 DeepSpeed,需要 DeepSpeed 已开发并测试过的 GPU,同时系统需预装 CUDA 或 ROCm 编译器才能安装本包。
Q:支持哪个 Python 版本?
A:README 明确说明代码仅在 Python 3.10.7 下测试通过,其他版本可能存在问题。
Q:有预训练模型可以直接用吗?
A:README 中提到预训练模型尚未发布(The pretrained model is yet to come),目前无法直接下载使用。
Q:官方 Colab 示例能用来合成语音吗?
A:不能。README 说明该示例只是对 data/test 下单条语音过拟合,并不具备可用性。
Q:训练数据怎么组织?
A:放在一个目录(如 data/your_data)中,音频文件用 .wav 后缀,对应文本文件用 .normalized.txt 后缀。
注意事项
- 训练依赖 DeepSpeed,需 GPU 且预装 CUDA 或 ROCm 编译器。
- 代码仅在 Python 3.10.7 环境下测试过。
- 预训练模型尚未发布。
- 官方 Colab 示例过拟合单条语音,不可用于实际合成。
核心亮点
- 零样本克隆:仅需3秒未见语音即可合成目标音色,效果接近原版论文
- 完整训练流程:提供数据预处理、训练和推理脚本,易于复现
- 预训练权重:附带模型权重,开箱即用,降低使用门槛
不足之处
- 非官方实现,与微软原版可能存在细节差异
- 训练数据要求高,需大规模高质量语音数据集
- 文档/社区待观察
适用场景
- 个性化语音助手:快速克隆用户声音,提供定制交互体验
- 有声书/播客制作:用单一演员声音生成多角色语音
- 语音修复与配音:为历史录音或影视作品生成缺失对白
替代项目
Tortoise-TTS、XTTS、Bark
上一篇:TensorFlowTTS
下一篇:MARS5-TTS
同类项目推荐
voicesmith
开源
一键搞定 TTS 模型训练,从数据到模型不再头疼
[WIP] VoiceSmith makes training text to speech models easy.
C-Sharp-Learning-Journey
开源
跟着C#新手项目集,快速上手WinForms和WPF开发。
Some of the projects i made when starting to learn c#, winfroms and wpf
awesome-audio-plaza
开源
每天更新音频AI论文,帮你紧跟音乐生成和语音合成前沿
Daily tracking of awesome audio papers, including music generation, zero-shot tts, a···
wavegrad
开源
几步生成高保真语音,比 WaveNet 快几十倍
A fast, high-quality neural vocoder.
VITS
开源
用文本合成语音,还能一键变声,端到端搞定。
VITSによるテキスト読み上げ器&ボイスチェンジャー
ultimate-rvc
开源
上传音频,一键生成 AI 翻唱和语音,人人可玩歌声转换。
An app for creating audio-based content such as song covers and speech using Retriev···
edge-tts
开源
免密钥调用微软 Edge 语音,几行代码生成自然 MP3
Use Microsoft Edge's online text-to-speech service from Python WITHOUT needing Micro···
ChatTTS-OpenVoice
开源
上传10秒音频,克隆你的专属ChatTTS音色
Fuse ChatTTS with OpenVoice, upload a 10-second audio clip, and clone your personali···
ubisoft-laforge-daft-exprt
开源
把一个人的说话情绪,无缝搬到另一个人声音里
Daft-Exprt: Robust Prosody Transfer Across Speakers for Expressive Speech Synthesis