VALL-E-X

听 3 秒原声就能学舌,任何人的音色都能复刻

微软 VALL-E X 零样本 TTS 模型的开源实现,仅需约 3 秒参考音频即可克隆目标说话人音色,并支持跨语种语音合成。训练与推理代码完整,是语音克隆与多语言 TTS 领域极具参考价值的项目。

开源 free 音频音乐
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 7927
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类音频音乐
开发团队Plachtaa
所属国家
官网地址
定价模式free
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型emotional-speech,gpt,text-to-speech,transformer-architecture,tts,vall-e,voice-clone
GitHub 星标★ 7927
30天Star增速
HF 下载量
上线时间2023-07-29 00:00:00
最近更新2026-09-21 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

难度:进阶 约 20 分钟 部署方式:本地安装 7 步

环境要求

  • Python 3.10
  • CUDA 11.7 ~ 12.0、PyTorch 2.0+
  • 安装 ffmpeg 并将其目录加入环境变量 PATH(制作 prompt 时需要)
  • 可访问 GitHub 与模型下载地址的网络(或能手动下载模型文件)

安装与启动步骤

  1. 1克隆项目仓库

    把 VALL-E-X 源码下载到本地,完成后当前目录会多出 VALL-E-X 文件夹。

    git clone https://github.com/Plachtaa/VALL-E-X.git
  2. 2进入项目目录

    切换到仓库根目录,后续安装依赖和运行程序都在这个目录下进行。

    cd VALL-E-X
  3. 3安装 Python 依赖

    README 要求 pip、Python 3.10、CUDA 11.7~12.0、PyTorch 2.0+,该命令会安装 requirements.txt 中的全部依赖。

    pip install -r requirements.txt
  4. 4安装 ffmpeg

    需要制作 prompt(参考音频)时必须先安装 ffmpeg,并把 ffmpeg 所在文件夹加入系统环境变量 PATH。

  5. 5首次运行自动下载模型

    第一次运行程序会自动下载对应模型,请保持网络畅通;若下载失败报错,按下一步手动下载。

  6. 6手动下载模型文件

    先在安装目录建好 checkpoints 和 whisper 文件夹(注意大小写),再把两个模型文件分别放进去。

    mkdir -p checkpoints whisper
    curl -L -o checkpoints/vallex-checkpoint.pt https://huggingface.co/Plachta/VALL-E-X/resolve/main/vallex-checkpoint.pt
    curl -L -o whisper/medium.pt https://openaipublic.azureedge.net/main/whisper/models/345ae4da62f9b3d59415adc60127b97c714f32e89e936602e85993674d08dcb1/medium.pt
  7. 7导入模块自检

    在项目目录下运行 Python,导入 utils.generation 的接口,无报错说明依赖与模型可用。

    from utils.generation import SAMPLE_RATE, generate_audio, preload_models
    from scipy.io.wavfile import write as write_wav
    from IPython.display import Audio

关键配置

配置项必填说明示例
./checkpoints/vallex-checkpoint.pt是VALL-E X 预训练主模型文件,放在安装目录的 checkpoints 文件夹中。./checkpoints/vallex-checkpoint.pt
./whisper/medium.pt是Whisper medium 模型文件,放在安装目录的 whisper 文件夹中,用于语音处理。./whisper/medium.pt

如何确认成功

在项目目录执行 Python 导入 utils.generation 并成功调用 preload_models(),无报错即表示安装完成。

常见问题

Q:模型自动下载失败怎么办?

A:按 README 手动下载:在安装目录创建 checkpoints 与 whisper 文件夹,分别放入 vallex-checkpoint.pt 和 medium.pt,注意文件夹名大小写。

Q:支持哪些 Python、CUDA 和 PyTorch 版本?

A:README 写明:Python 3.10、CUDA 11.7 ~ 12.0、PyTorch 2.0+,用 pip 安装 requirements.txt 即可。

Q:制作 prompt(参考音频)报错或失败?

A:需要先安装 ffmpeg,并把 ffmpeg 所在文件夹加入系统环境变量 PATH,否则无法处理参考音频。

Q:第一次运行很慢正常吗?

A:正常。首次运行程序会自动下载对应模型,文件较大,下载完成后后续运行会快很多。

注意事项

  • 模型仅用于研究或应用目的,请遵守项目许可与相关法规。
  • 手动放模型时务必注意文件夹名大小写:checkpoints、whisper。
  • 预训练权重可从 README 给出的 Google Drive / HuggingFace 地址获取。
  • 后续版本更新了 AR decoder 批量解码、Vocos 解码器与长文本生成,建议使用最新代码。

核心亮点

  • 零样本语音克隆,仅需数秒参考音频即可合成目标说话人语音
  • 支持情感控制与多语言(中英日)语音合成,生成自然度较高
  • 基于Transformer架构,代码结构清晰,便于二次开发与学术研究

不足之处

  • 推理速度较慢,长文本合成时延迟明显
  • 对参考音频质量敏感,噪声环境下克隆效果下降
  • 文档/社区待观察

适用场景

  • 个性化语音助手与有声内容创作
  • 游戏/影视角色配音快速原型
  • 语音数据增强与多语言TTS研究

替代项目

XTTS v2、Bark、Tortoise TTS

项目介绍

VALL-E-X 是音频音乐领域的开源项目,由 Plachtaa 开发,2023 年首次发布。

在全站 13,090 个收录项目中,它的 GitHub 星标数(7,927)位列前 6%,在音频音乐分类的 738 个项目里位列前 4%。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-21。MIT许可证,完全免费,可自行部署使用。

它主要面向的使用场景是:个性化语音助手与有声内容创作。同类可对比的替代方案包括 XTTS v2、Bark、Tortoise TTS。

上一篇:EmotiVoice

下一篇:vits

同类项目推荐

tango 开源

输入一句话,自动生成匹配的音频内容

A family of diffusion models for text-to-audio generation.

★ 1239 2026-08-09
AuK 开源

一个模型搞定语音生成、编辑与分离

AuK: An Open-Source Foundational Model for Speech Generation and Editing

★ 1236 2026-09-13
swift-tts 开源

Swift 项目三行代码接入系统 TTS,兼容 TCA 和 Combine

A straightforward package containing version for Swift modern concurrency, Point-Fre···

★ 52 2026-08-09
ai-dj 开源

现场演出中实时用 AI 生成音乐,保持人类掌控

AI music generation for live performance - Standalone (Ableton Link) + VST3/AU. 8 tr···

★ 246 2026-08-09