
VALL-E-X
听 3 秒原声就能学舌,任何人的音色都能复刻
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 7906
技术标签
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Python 3.10
- CUDA 11.7 ~ 12.0、PyTorch 2.0+
- 安装 ffmpeg 并将其目录加入环境变量 PATH(制作 prompt 时需要)
- 可访问 GitHub 与模型下载地址的网络(或能手动下载模型文件)
安装与启动步骤
-
1克隆项目仓库
把 VALL-E-X 源码下载到本地,完成后当前目录会多出 VALL-E-X 文件夹。
git clone https://github.com/Plachtaa/VALL-E-X.git -
2进入项目目录
切换到仓库根目录,后续安装依赖和运行程序都在这个目录下进行。
cd VALL-E-X -
3安装 Python 依赖
README 要求 pip、Python 3.10、CUDA 11.7~12.0、PyTorch 2.0+,该命令会安装 requirements.txt 中的全部依赖。
pip install -r requirements.txt -
4安装 ffmpeg
需要制作 prompt(参考音频)时必须先安装 ffmpeg,并把 ffmpeg 所在文件夹加入系统环境变量 PATH。
-
5首次运行自动下载模型
第一次运行程序会自动下载对应模型,请保持网络畅通;若下载失败报错,按下一步手动下载。
-
6手动下载模型文件
先在安装目录建好 checkpoints 和 whisper 文件夹(注意大小写),再把两个模型文件分别放进去。
mkdir -p checkpoints whisper curl -L -o checkpoints/vallex-checkpoint.pt https://huggingface.co/Plachta/VALL-E-X/resolve/main/vallex-checkpoint.pt curl -L -o whisper/medium.pt https://openaipublic.azureedge.net/main/whisper/models/345ae4da62f9b3d59415adc60127b97c714f32e89e936602e85993674d08dcb1/medium.pt -
7导入模块自检
在项目目录下运行 Python,导入 utils.generation 的接口,无报错说明依赖与模型可用。
from utils.generation import SAMPLE_RATE, generate_audio, preload_models from scipy.io.wavfile import write as write_wav from IPython.display import Audio
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
./checkpoints/vallex-checkpoint.pt | 是 | VALL-E X 预训练主模型文件,放在安装目录的 checkpoints 文件夹中。 | ./checkpoints/vallex-checkpoint.pt |
./whisper/medium.pt | 是 | Whisper medium 模型文件,放在安装目录的 whisper 文件夹中,用于语音处理。 | ./whisper/medium.pt |
如何确认成功
在项目目录执行 Python 导入 utils.generation 并成功调用 preload_models(),无报错即表示安装完成。
常见问题
Q:模型自动下载失败怎么办?
A:按 README 手动下载:在安装目录创建 checkpoints 与 whisper 文件夹,分别放入 vallex-checkpoint.pt 和 medium.pt,注意文件夹名大小写。
Q:支持哪些 Python、CUDA 和 PyTorch 版本?
A:README 写明:Python 3.10、CUDA 11.7 ~ 12.0、PyTorch 2.0+,用 pip 安装 requirements.txt 即可。
Q:制作 prompt(参考音频)报错或失败?
A:需要先安装 ffmpeg,并把 ffmpeg 所在文件夹加入系统环境变量 PATH,否则无法处理参考音频。
Q:第一次运行很慢正常吗?
A:正常。首次运行程序会自动下载对应模型,文件较大,下载完成后后续运行会快很多。
注意事项
- 模型仅用于研究或应用目的,请遵守项目许可与相关法规。
- 手动放模型时务必注意文件夹名大小写:checkpoints、whisper。
- 预训练权重可从 README 给出的 Google Drive / HuggingFace 地址获取。
- 后续版本更新了 AR decoder 批量解码、Vocos 解码器与长文本生成,建议使用最新代码。
核心亮点
- 零样本语音克隆,仅需数秒参考音频即可合成目标说话人语音
- 支持情感控制与多语言(中英日)语音合成,生成自然度较高
- 基于Transformer架构,代码结构清晰,便于二次开发与学术研究
不足之处
- 推理速度较慢,长文本合成时延迟明显
- 对参考音频质量敏感,噪声环境下克隆效果下降
- 文档/社区待观察
适用场景
- 个性化语音助手与有声内容创作
- 游戏/影视角色配音快速原型
- 语音数据增强与多语言TTS研究
替代项目
XTTS v2、Bark、Tortoise TTS
上一篇:EmotiVoice
下一篇:vits
同类项目推荐
ComfyUI-Step_Audio_EditX_TTS
开源
在 ComfyUI 里拖拽节点,几秒克隆声音并编辑音频
ComfyUI nodes for Step Audio EditX - State-of-the-art zero-shot voice cloning and au···
MeloTTS.cpp
开源
纯 C++ 轻量 TTS,OpenVINO 加速,多语言离线合成
A lightweight pure C++ Text-to-Speech (TTS) pipeline with OpenVINO, supporting multi···
vocal-craft-studio
开源
一键批量克隆声音,生成印地语和英语自然语音
Tuned Hindi & English AI Voice Studio 2026 – Batch Cloning & TTS
vits_chinese
开源
中文语音合成更自然,支持流式输出,开箱即用
Best practice TTS based on BERT and VITS with some Natural Speech Features Of Micros···
hifi-gan
开源
让语音合成又快又真,实时生成高保真音频
HiFi-GAN: Generative Adversarial Networks for Efficient and High Fidelity Speech Syn···
read-aloud
开源
一键朗读网页,解放双眼,随时随地听内容
An awesome browser extension that reads aloud webpage content with one click
maise
开源
在安卓设备上离线合成语音,无需联网,保护隐私。
Maise is an open-source android speech engine designed to provide a powerful and fle···
ComfyUI-audio
开源
在 ComfyUI 里拖拽节点,轻松生成音乐和语音
some generative audio tools for ComfyUI
dots.tts
开源
本地跑文本转语音,几行代码让文字开口说话