vall-e

三秒语音样本,即刻克隆音色,零样本语音合成

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 音频音乐 🍴 复刻 398 🐛 待处理 71 👀 关注 85
GitHub ↗
GitHub 星标 ★ 2967
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,可自由使用和部署,无付费版本。

项目预览

vall-e 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类音频音乐
开发团队enhuiz
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,可自由使用和部署,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型audio-lm,pytorch,text-to-speech,tts,vall-e,valle
GitHub 星标★ 2967
上线时间2023-01-11 00:00:00
代码更新2023-05-10
仓库体积2.0 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数7

项目介绍

VALL-E 是一个基于 PyTorch 的非官方实现,源自微软提出的神经编解码语言模型,用于零样本文本到语音合成。它解决了传统 TTS 系统需要大量特定说话人录音才能合成语音的问题,仅需三秒未见过的语音样本即可克隆该说话人的音色和韵律。核心能力包括:将音频离散化为神经编解码 token,通过 Transformer 语言模型建模文本与音频的映射关系,支持零样本语音合成、跨语言合成和情感控制。项目提供了完整的训练和推理流程,包含数据预处理、模型训练和音频生成脚本,并附带预训练模型权重。由于是非官方实现,它降低了研究门槛,让开发者能在本地复现和实验 VALL-E 技术,推动了语音合成领域的开源生态发展。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2967

技术标签

使用教程

难度:进阶 约 15 分钟 部署方式:库/依赖 7 步

环境要求

  • Python 3.10.7(README 注明代码仅在该版本下测试过)
  • 一块 DeepSpeed 已开发并测试过的 GPU
  • 预装 CUDA 或 ROCm 编译器(用于安装本包)
  • 训练数据的音频文件后缀为 .wav,对应文本文件后缀为 .normalized.txt

安装与启动步骤

  1. 1确认硬件环境

    训练器基于 DeepSpeed,需使用 DeepSpeed 支持并测试过的 GPU,并预装 CUDA 或 ROCm 编译器。

  2. 2pip 安装 vall-e

    直接用 pip 从 GitHub 仓库安装,适合只想作为依赖使用的场景。

    pip install git+https://github.com/enhuiz/vall-e
  3. 3或克隆仓库

    若需修改代码或跑训练脚本,可克隆仓库,注意加上 --recurse-submodules 拉取子模块。

    git clone --recurse-submodules https://github.com/enhuiz/vall-e.git
  4. 4准备训练数据

    把数据放入一个目录,例如 data/your_data;音频命名后缀 .wav,文本后缀 .normalized.txt。

  5. 5量化音频数据

    用 EnCodec 分词器把音频离散化为神经编解码 token。

    python -m vall_e.emb.qnt data/your_data
  6. 6生成音素

    根据文本生成音素特征,供语言模型训练使用。

    python -m vall_e.emb.g2p data/your_data
  7. 7自定义配置

    在 config/your_data/ 下新建 ar.yml 与 nar.yml,可参考仓库中的示例配置修改。

关键配置

配置项必填说明示例
config/your_data/ar.yml是自回归(AR)部分的训练配置,需自行创建并参考示例配置config/your_data/ar.yml
config/your_data/nar.yml是非自回归(NAR)部分的训练配置,需自行创建并参考示例配置config/your_data/nar.yml

如何确认成功

README 未给出启动验证方式;安装过程无报错、量化与音素脚本正常运行即表示流程通畅。

常见问题

Q:需要什么样的 GPU?

A:README 指出训练器基于 DeepSpeed,需要 DeepSpeed 已开发并测试过的 GPU,同时系统需预装 CUDA 或 ROCm 编译器才能安装本包。

Q:支持哪个 Python 版本?

A:README 明确说明代码仅在 Python 3.10.7 下测试通过,其他版本可能存在问题。

Q:有预训练模型可以直接用吗?

A:README 中提到预训练模型尚未发布(The pretrained model is yet to come),目前无法直接下载使用。

Q:官方 Colab 示例能用来合成语音吗?

A:不能。README 说明该示例只是对 data/test 下单条语音过拟合,并不具备可用性。

Q:训练数据怎么组织?

A:放在一个目录(如 data/your_data)中,音频文件用 .wav 后缀,对应文本文件用 .normalized.txt 后缀。

注意事项

  • 训练依赖 DeepSpeed,需 GPU 且预装 CUDA 或 ROCm 编译器。
  • 代码仅在 Python 3.10.7 环境下测试过。
  • 预训练模型尚未发布。
  • 官方 Colab 示例过拟合单条语音,不可用于实际合成。

核心亮点

  • 零样本克隆:仅需3秒未见语音即可合成目标音色,效果接近原版论文
  • 完整训练流程:提供数据预处理、训练和推理脚本,易于复现
  • 预训练权重:附带模型权重,开箱即用,降低使用门槛

不足之处

  • 非官方实现,与微软原版可能存在细节差异
  • 训练数据要求高,需大规模高质量语音数据集
  • 文档/社区待观察

适用场景

  • 个性化语音助手:快速克隆用户声音,提供定制交互体验
  • 有声书/播客制作:用单一演员声音生成多角色语音
  • 语音修复与配音:为历史录音或影视作品生成缺失对白

替代项目

Tortoise-TTS、XTTS、Bark

上一篇:TensorFlowTTS

下一篇:MARS5-TTS

同类项目推荐

voicesmith 开源

一键搞定 TTS 模型训练,从数据到模型不再头疼

[WIP] VoiceSmith makes training text to speech models easy.

★ 230 2026-08-09
C-Sharp-Learning-Journey 开源

跟着C#新手项目集,快速上手WinForms和WPF开发。

Some of the projects i made when starting to learn c#, winfroms and wpf

★ 188 2026-08-09
awesome-audio-plaza 开源

每天更新音频AI论文,帮你紧跟音乐生成和语音合成前沿

Daily tracking of awesome audio papers, including music generation, zero-shot tts, a···

★ 410 2026-08-09
wavegrad 开源

几步生成高保真语音,比 WaveNet 快几十倍

A fast, high-quality neural vocoder.

★ 300 2026-08-09
VITS 开源

用文本合成语音,还能一键变声,端到端搞定。

VITSによるテキスト読み上げ器&ボイスチェンジャー

★ 92 2026-08-09
ultimate-rvc 开源

上传音频,一键生成 AI 翻唱和语音,人人可玩歌声转换。

An app for creating audio-based content such as song covers and speech using Retriev···

★ 342 2026-08-09
edge-tts 开源

免密钥调用微软 Edge 语音,几行代码生成自然 MP3

Use Microsoft Edge's online text-to-speech service from Python WITHOUT needing Micro···

★ 12503 2026-08-09
ChatTTS-OpenVoice 开源

上传10秒音频,克隆你的专属ChatTTS音色

Fuse ChatTTS with OpenVoice, upload a 10-second audio clip, and clone your personali···

★ 465 2026-08-09
ubisoft-laforge-daft-exprt 开源

把一个人的说话情绪,无缝搬到另一个人声音里

Daft-Exprt: Robust Prosody Transfer Across Speakers for Expressive Speech Synthesis

★ 128 2026-08-09