VieNeu-TTS

环境要求

• Python 环境且 pip 可用
• CPU 即可运行（v3 Turbo 走 ONNX Runtime，不依赖 torch）
• 如需 GPU 加速：NVIDIA 显卡 + CUDA 环境
• 使用 uv 管理依赖（README 推荐的安装方式）
• Docker 部署仅在旧版 v2 场景需要，且需 NVIDIA Container Toolkit

安装与启动步骤

1. 1安装 CPU 版

   默认路径，无需 torch，通过 ONNX Runtime 运行 v3 Turbo，最省事。

   pip install vieneu

   复制

2. 2可选：安装 GPU 版

   仅 NVIDIA 显卡需要。Linux 直接装 vieneu[cuda]；Windows 必须先装 CUDA 版 torch。

   pip install torch==2.8.0 torchaudio==2.8.0 --index-url https://download.pytorch.org/whl/cu128
   pip install "transformers==4.57.6"
   pip install vieneu

   复制

3. 3加载并合成语音

   导入 Vieneu 后调用 infer()，voice 可指定内置音色，返回音频数据。

   import time
   from vieneu import Vieneu
   
   vieneu = Vieneu()
   audio = vieneu.infer("Bản tin sáng nay.", voice="Minh Quân")

   复制

4. 4按需切换精度/模式

   CPU 默认 fp32；int8 更快但需 CPU 支持 VNNI。低配设备可试 v3nano。

   Vieneu(precision="int8")
   Vieneu(mode="v3nano")

   复制

5. 5可选：Docker 起服务

   该镜像对应已废弃的 v2 服务，--tunnel 会生成公网地址，需查容器日志。

   docker run --gpus all -p 23333:23333 -v huggingface_cache:/root/.cache/huggingface pnnbao/vieneu-tts:latest --tunnel

   复制

关键配置

如何确认成功

执行 infer() 能正常返回音频即成功；Docker 方式请查看容器日志中的 bore 公网地址（如 bore.pub:31631）。

常见问题

注意事项

• 官方建议用 uv 管理依赖（uv sync 流程），本文只列出 README 明确给出的 pip 与 Docker 命令。
• README 中的 API Server 与 remote 模式仅适配 v2，已废弃，仅保留给已有部署。
• v3 Turbo 的 Docker Web UI 与 apps/web_stream.py 的 FastAPI 流式示例是服务化替代方案。
• 模型面向越南语，英文/双语场景在 v3nano 下质量会明显下降。