VALL-E-X

听 3 秒原声就能学舌,任何人的音色都能复刻

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 音频音乐 🍴 复刻 771 🐛 待处理 98 👀 关注 1 ⚠️ 作者已归档(停止维护)
GitHub ↗
GitHub 星标 ★ 7906
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可自行部署使用。

项目预览

VALL-E-X 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类音频音乐
开发团队Plachtaa
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型emotional-speech,gpt,text-to-speech,transformer-architecture,tts,vall-e,voice-clone
GitHub 星标★ 7906
上线时间2023-07-29 00:00:00
代码更新2024-02-11
仓库体积57.9 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数6

项目介绍

微软 VALL-E X 零样本 TTS 模型的开源实现,仅需约 3 秒参考音频即可克隆目标说话人音色,并支持跨语种语音合成。训练与推理代码完整,是语音克隆与多语言 TTS 领域极具参考价值的项目。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 7906

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:进阶 约 20 分钟 部署方式:本地安装 7 步

环境要求

  • Python 3.10
  • CUDA 11.7 ~ 12.0、PyTorch 2.0+
  • 安装 ffmpeg 并将其目录加入环境变量 PATH(制作 prompt 时需要)
  • 可访问 GitHub 与模型下载地址的网络(或能手动下载模型文件)

安装与启动步骤

  1. 1克隆项目仓库

    把 VALL-E-X 源码下载到本地,完成后当前目录会多出 VALL-E-X 文件夹。

    git clone https://github.com/Plachtaa/VALL-E-X.git
  2. 2进入项目目录

    切换到仓库根目录,后续安装依赖和运行程序都在这个目录下进行。

    cd VALL-E-X
  3. 3安装 Python 依赖

    README 要求 pip、Python 3.10、CUDA 11.7~12.0、PyTorch 2.0+,该命令会安装 requirements.txt 中的全部依赖。

    pip install -r requirements.txt
  4. 4安装 ffmpeg

    需要制作 prompt(参考音频)时必须先安装 ffmpeg,并把 ffmpeg 所在文件夹加入系统环境变量 PATH。

  5. 5首次运行自动下载模型

    第一次运行程序会自动下载对应模型,请保持网络畅通;若下载失败报错,按下一步手动下载。

  6. 6手动下载模型文件

    先在安装目录建好 checkpoints 和 whisper 文件夹(注意大小写),再把两个模型文件分别放进去。

    mkdir -p checkpoints whisper
    curl -L -o checkpoints/vallex-checkpoint.pt https://huggingface.co/Plachta/VALL-E-X/resolve/main/vallex-checkpoint.pt
    curl -L -o whisper/medium.pt https://openaipublic.azureedge.net/main/whisper/models/345ae4da62f9b3d59415adc60127b97c714f32e89e936602e85993674d08dcb1/medium.pt
  7. 7导入模块自检

    在项目目录下运行 Python,导入 utils.generation 的接口,无报错说明依赖与模型可用。

    from utils.generation import SAMPLE_RATE, generate_audio, preload_models
    from scipy.io.wavfile import write as write_wav
    from IPython.display import Audio

关键配置

配置项必填说明示例
./checkpoints/vallex-checkpoint.pt是VALL-E X 预训练主模型文件,放在安装目录的 checkpoints 文件夹中。./checkpoints/vallex-checkpoint.pt
./whisper/medium.pt是Whisper medium 模型文件,放在安装目录的 whisper 文件夹中,用于语音处理。./whisper/medium.pt

如何确认成功

在项目目录执行 Python 导入 utils.generation 并成功调用 preload_models(),无报错即表示安装完成。

常见问题

Q:模型自动下载失败怎么办?

A:按 README 手动下载:在安装目录创建 checkpoints 与 whisper 文件夹,分别放入 vallex-checkpoint.pt 和 medium.pt,注意文件夹名大小写。

Q:支持哪些 Python、CUDA 和 PyTorch 版本?

A:README 写明:Python 3.10、CUDA 11.7 ~ 12.0、PyTorch 2.0+,用 pip 安装 requirements.txt 即可。

Q:制作 prompt(参考音频)报错或失败?

A:需要先安装 ffmpeg,并把 ffmpeg 所在文件夹加入系统环境变量 PATH,否则无法处理参考音频。

Q:第一次运行很慢正常吗?

A:正常。首次运行程序会自动下载对应模型,文件较大,下载完成后后续运行会快很多。

注意事项

  • 模型仅用于研究或应用目的,请遵守项目许可与相关法规。
  • 手动放模型时务必注意文件夹名大小写:checkpoints、whisper。
  • 预训练权重可从 README 给出的 Google Drive / HuggingFace 地址获取。
  • 后续版本更新了 AR decoder 批量解码、Vocos 解码器与长文本生成,建议使用最新代码。

核心亮点

  • 零样本语音克隆,仅需数秒参考音频即可合成目标说话人语音
  • 支持情感控制与多语言(中英日)语音合成,生成自然度较高
  • 基于Transformer架构,代码结构清晰,便于二次开发与学术研究

不足之处

  • 推理速度较慢,长文本合成时延迟明显
  • 对参考音频质量敏感,噪声环境下克隆效果下降
  • 文档/社区待观察

适用场景

  • 个性化语音助手与有声内容创作
  • 游戏/影视角色配音快速原型
  • 语音数据增强与多语言TTS研究

替代项目

XTTS v2、Bark、Tortoise TTS

上一篇:EmotiVoice

下一篇:vits

同类项目推荐

ComfyUI-Step_Audio_EditX_TTS 开源

在 ComfyUI 里拖拽节点,几秒克隆声音并编辑音频

ComfyUI nodes for Step Audio EditX - State-of-the-art zero-shot voice cloning and au···

★ 63 2026-08-09
MeloTTS.cpp 开源

纯 C++ 轻量 TTS,OpenVINO 加速,多语言离线合成

A lightweight pure C++ Text-to-Speech (TTS) pipeline with OpenVINO, supporting multi···

★ 113 2026-08-09
vocal-craft-studio 开源

一键批量克隆声音,生成印地语和英语自然语音

Tuned Hindi & English AI Voice Studio 2026 – Batch Cloning & TTS

★ 122 2026-08-09
vits_chinese 开源

中文语音合成更自然,支持流式输出,开箱即用

Best practice TTS based on BERT and VITS with some Natural Speech Features Of Micros···

★ 1232 2026-08-09
hifi-gan 开源

让语音合成又快又真,实时生成高保真音频

HiFi-GAN: Generative Adversarial Networks for Efficient and High Fidelity Speech Syn···

★ 2379 2026-08-09
read-aloud 开源

一键朗读网页,解放双眼,随时随地听内容

An awesome browser extension that reads aloud webpage content with one click

★ 1794 2026-08-09
maise 开源

在安卓设备上离线合成语音,无需联网,保护隐私。

Maise is an open-source android speech engine designed to provide a powerful and fle···

★ 85 2026-08-09
ComfyUI-audio 开源

在 ComfyUI 里拖拽节点,轻松生成音乐和语音

some generative audio tools for ComfyUI

★ 106 2026-08-09
dots.tts 开源

本地跑文本转语音,几行代码让文字开口说话

★ 1411 2026-10-25