vall-e

三秒语音样本,即刻克隆音色,零样本语音合成

VALL-E 是一个基于 PyTorch 的非官方实现,源自微软提出的神经编解码语言模型,用于零样本文本到语音合成。它解决了传统 TTS 系统需要大量特定说话人录音才能合成语音的问题,仅需三秒未见过的语音样本即可克隆该说话人的音色和韵律。核心能力包括:将音频离散化为神经编解码 token,通过 Transformer 语言模型建模文本与音频的映射关系,支持零样本语音合成、跨语言合成和情感控制。项目提供了完整的训练和推理流程,包含数据预处理、模型训练和音频生成脚本,并附带预训练模型权重。由于是非官方实现,它降低了研究门槛,让开发者能在本地复现和实验 VALL-E 技术,推动了语音合成领域的开源生态发展。

开源 free 音频音乐
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 2972
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类音频音乐
开发团队enhuiz
所属国家
官网地址
定价模式free
价格说明开源项目,MIT许可证,可自由使用和部署,无付费版本。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型audio-lm,pytorch,text-to-speech,tts,vall-e,valle
GitHub 星标★ 2972
30天Star增速
HF 下载量
上线时间2023-01-11 00:00:00
最近更新2026-09-22 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

难度:进阶 约 15 分钟 部署方式:库/依赖 7 步

环境要求

  • Python 3.10.7(README 注明代码仅在该版本下测试过)
  • 一块 DeepSpeed 已开发并测试过的 GPU
  • 预装 CUDA 或 ROCm 编译器(用于安装本包)
  • 训练数据的音频文件后缀为 .wav,对应文本文件后缀为 .normalized.txt

安装与启动步骤

  1. 1确认硬件环境

    训练器基于 DeepSpeed,需使用 DeepSpeed 支持并测试过的 GPU,并预装 CUDA 或 ROCm 编译器。

  2. 2pip 安装 vall-e

    直接用 pip 从 GitHub 仓库安装,适合只想作为依赖使用的场景。

    pip install git+https://github.com/enhuiz/vall-e
  3. 3或克隆仓库

    若需修改代码或跑训练脚本,可克隆仓库,注意加上 --recurse-submodules 拉取子模块。

    git clone --recurse-submodules https://github.com/enhuiz/vall-e.git
  4. 4准备训练数据

    把数据放入一个目录,例如 data/your_data;音频命名后缀 .wav,文本后缀 .normalized.txt。

  5. 5量化音频数据

    用 EnCodec 分词器把音频离散化为神经编解码 token。

    python -m vall_e.emb.qnt data/your_data
  6. 6生成音素

    根据文本生成音素特征,供语言模型训练使用。

    python -m vall_e.emb.g2p data/your_data
  7. 7自定义配置

    在 config/your_data/ 下新建 ar.yml 与 nar.yml,可参考仓库中的示例配置修改。

关键配置

配置项必填说明示例
config/your_data/ar.yml是自回归(AR)部分的训练配置,需自行创建并参考示例配置config/your_data/ar.yml
config/your_data/nar.yml是非自回归(NAR)部分的训练配置,需自行创建并参考示例配置config/your_data/nar.yml

如何确认成功

README 未给出启动验证方式;安装过程无报错、量化与音素脚本正常运行即表示流程通畅。

常见问题

Q:需要什么样的 GPU?

A:README 指出训练器基于 DeepSpeed,需要 DeepSpeed 已开发并测试过的 GPU,同时系统需预装 CUDA 或 ROCm 编译器才能安装本包。

Q:支持哪个 Python 版本?

A:README 明确说明代码仅在 Python 3.10.7 下测试通过,其他版本可能存在问题。

Q:有预训练模型可以直接用吗?

A:README 中提到预训练模型尚未发布(The pretrained model is yet to come),目前无法直接下载使用。

Q:官方 Colab 示例能用来合成语音吗?

A:不能。README 说明该示例只是对 data/test 下单条语音过拟合,并不具备可用性。

Q:训练数据怎么组织?

A:放在一个目录(如 data/your_data)中,音频文件用 .wav 后缀,对应文本文件用 .normalized.txt 后缀。

注意事项

  • 训练依赖 DeepSpeed,需 GPU 且预装 CUDA 或 ROCm 编译器。
  • 代码仅在 Python 3.10.7 环境下测试过。
  • 预训练模型尚未发布。
  • 官方 Colab 示例过拟合单条语音,不可用于实际合成。

核心亮点

  • 零样本克隆:仅需3秒未见语音即可合成目标音色,效果接近原版论文
  • 完整训练流程:提供数据预处理、训练和推理脚本,易于复现
  • 预训练权重:附带模型权重,开箱即用,降低使用门槛

不足之处

  • 非官方实现,与微软原版可能存在细节差异
  • 训练数据要求高,需大规模高质量语音数据集
  • 文档/社区待观察

适用场景

  • 个性化语音助手:快速克隆用户声音,提供定制交互体验
  • 有声书/播客制作:用单一演员声音生成多角色语音
  • 语音修复与配音:为历史录音或影视作品生成缺失对白

替代项目

Tortoise-TTS、XTTS、Bark

项目介绍

vall-e 是音频音乐领域的开源项目,由 enhuiz 开发,2023 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(2,972)位列前 30%,在音频音乐分类的 738 个项目里位列前 8%。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-22。MIT许可证,可自由使用和部署,无付费版本。

它主要面向的使用场景是:个性化语音助手:快速克隆用户声音,提供定制交互体验。同类可对比的替代方案包括 Tortoise-TTS、XTTS、Bark。

上一篇:TensorFlowTTS

下一篇:MARS5-TTS

同类项目推荐

tango 开源

输入一句话,自动生成匹配的音频内容

A family of diffusion models for text-to-audio generation.

★ 1239 2026-08-09
AuK 开源

一个模型搞定语音生成、编辑与分离

AuK: An Open-Source Foundational Model for Speech Generation and Editing

★ 1236 2026-09-13
swift-tts 开源

Swift 项目三行代码接入系统 TTS,兼容 TCA 和 Combine

A straightforward package containing version for Swift modern concurrency, Point-Fre···

★ 52 2026-08-09
ai-dj 开源

现场演出中实时用 AI 生成音乐,保持人类掌控

AI music generation for live performance - Standalone (Ableton Link) + VST3/AU. 8 tr···

★ 246 2026-08-09