Multilingual_Text_to_Speech

一个模型搞定多语言混合语音合成,还能克隆声音

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 音频音乐 🍴 复刻 156 🐛 待处理 1 👀 关注 2 ⚠️ 作者已归档(停止维护)
GitHub ↗
GitHub 星标 ★ 843
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,可自由使用和修改,无付费版本。

项目预览

Multilingual_Text_to_Speech 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类音频音乐
开发团队Tomiinek
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,可自由使用和修改,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型code-switching,multilingual,speech-synthesis,text-to-speech,tts,voice-cloning
GitHub 星标★ 843
上线时间2019-08-06 00:00:00
代码更新2023-10-10
仓库体积43.6 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数5

项目介绍

这是一个基于 Tacotron 2 的多语言文本转语音(TTS)实现,专注于支持多语言实验,包括参数共享、语码切换和声音克隆。项目解决了单一语言 TTS 模型无法灵活处理多语言混合输入的问题,允许在同一个模型中共享底层参数,从而高效地支持多种语言。其核心能力包括:通过参数共享机制减少多语言模型的训练开销;支持语码切换,即在句子中自然混合不同语言进行合成;提供声音克隆功能,能够根据少量参考音频模仿特定说话人的声音。项目基于 Python 和 PyTorch 构建,适合研究者和开发者用于多语言语音合成实验、跨语言语音应用开发以及个性化语音生成。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 843

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:高级 约 60 分钟 部署方式:本地安装 4 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Python 3.6+
  • TensorFlow 1.x
  • 多语言语音数据集

安装与启动步骤

  1. 1克隆装依赖

    多语言 TTS 论文代码,元学习路线。

    git clone https://github.com/Tomiinek/Multilingual_Text_to_Speech.git
    cd Multilingual_Text_to_Speech
    pip3 install -r requirements.txt
  2. 2生成频谱

    先把音频转成 css 频谱,训练读它。

    python3 prepare_css_spectrograms.py
  3. 3训练

    先跑语言切换实验,再跑单语基线对比。

    PYTHONIOENCODING=utf-8 python3 train.py --hyper_parameters generated_switching
  4. 4合成

    用训练好的 checkpoint 生成语音。

    echo "01|Dies ist ein Beispieltext.|00-fr|de" | python3 synthesize.py --checkpoint checkpoints/CHECKPOINT-1 --save_spec

如何确认成功

合成出的音频能听出目标语言,跨语种样本音色一致。

注意事项

  • 代码基于 TF1,新环境建议用容器。
  • 输入格式是「说话人|文本|语言id|目标语言」的竖线分隔串。
  • 训练耗时以天计,先降参数量验证流程。

核心亮点

  • 支持语码切换,可在同一句话中混合多种语言合成,实用性强
  • 参数共享机制显著降低多语言模型的训练资源需求
  • 提供声音克隆能力,用少量样本即可模仿目标说话人

不足之处

  • 早期项目,文档和社区支持可能不够完善
  • 依赖 Tacotron 2,合成速度较慢,实时性不足

适用场景

  • 多语言语音助手或翻译设备中的自然混合语音输出
  • 个性化语音合成,如为有声书或游戏角色生成定制声音
  • 跨语言语音研究,探索参数共享和语码切换的模型表现

替代项目

Coqui TTS、Mozilla TTS、ESPnet-TTS

上一篇:alexandria-audiobook

下一篇:lobe-tts

同类项目推荐

remiqora 开源

本地跑 AI 作曲+分轨+DAW,一条龙出成品

Free, open-source local AI music studio: ACE-Step 1.5 and YuE2-3B text-to-music, ste···

★ 219 2026-09-29
ncnn-android-piper 开源

手机本地跑神经语音合成,离线秒出中文英文语音

ncnn android piper the fast and local neural text-to-speech engine

★ 72 2026-08-09
MOSS-TTSD 开源

从短音频克隆声音,生成多说话人 expressive 对话

A multilingual model for long-form, multi-speaker dialogue synthesis with flexible s···

★ 1418 2026-08-09
xtts-api-server 开源

一键部署XTTSv2,快速实现多语言语音合成与克隆

A simple FastAPI Server to run XTTSv2

★ 597 2026-08-09
Turkish-Text-to-Speech 开源

用 Fastpitch + HiFi-GAN 为土耳其语打造自然语音合成

Speech synthesis (TTS) in low-resource languages by training from scratch with Fastp···

★ 72 2026-08-09
Advanced-RVC-Inference 开源

一键下载并加速运行 RVC 语音转换模型,省时省力

Advanced RVC Inference for quicker and effortless model downloads

★ 90 2026-08-09
voice_indonesian 开源

离线印尼语文本转语音,代码示例即拿即用

Contoh kode program teks ke suara offline, text to speech offline, biasanya saya gun···

★ 53 2026-08-09
emospeech 开源

从语音中识别情绪,让机器听懂你的心情

★ 128 2026-08-09
UniCATS-CTX-txt2vec 开源

用扩散模型生成自然语音,让 TTS 更有表现力

[AAAI 2024] CTX-txt2vec, the acoustic model in UniCATS

★ 64 2026-08-09