MOSS-TTS

环境要求

• Python 3.12 环境（README 使用 uv venv --python 3.12）
• uv 包管理器（需先按官方文档安装 uv）
• 支持 CUDA 12.8 的 NVIDIA GPU 及驱动（纯 CPU 可用 cpu-only 配置）
• 建议使用干净隔离环境，并搭配 Transformers 5.0.0 以避免依赖冲突

安装与启动步骤

1. 1克隆仓库

   把 MOSS-TTS 源码拉取到本地并进入项目目录，后续所有安装命令都在该目录执行。

   git clone https://github.com/OpenMOSS/MOSS-TTS.git
   cd MOSS-TTS

   复制

2. 2创建虚拟环境

   用 uv 创建 Python 3.12 的隔离虚拟环境，目录名为 .venv。

   uv venv --python 3.12 .venv

   复制

3. 3激活虚拟环境

   Linux/macOS 下用 source 激活；激活后终端提示符前会出现 .venv 标识。

   source .venv/bin/activate

   复制

4. 4安装 torch 运行依赖

   按 cu128 后端安装 PyTorch CUDA 轮子及项目依赖，如用其他后端把 cu128 换成 cpu、cu126 等。

   uv pip install --torch-backend cu128 -e ".[torch-runtime]"

   复制

5. 5可选安装 FlashAttention

   硬件支持时可提升速度、降低显存；编译失败可跳过，改用默认 attention 后端，内存小的机器可限制并行度。

   uv pip install --torch-backend cu128 -e ".[torch-runtime,flash-attn]"

   复制

6. 6可选轻量安装

   不想装 torch 时，用 llama-cpp-onnx 配置安装 numpy、onnxruntime-gpu、tokenizers，作为推荐起点。

   pip install -e ".[llama-cpp-onnx]"

   复制

7. 7运行命令行推理

   使用 default.yaml（ONNX 音频 + GGUF 主干）合成语音，输出写入 output.wav。

   python -m moss_tts_delay.llama_cpp 
       --config configs/llama_cpp/default.yaml 
       --text "Hello, world!" --output output.wav

   复制

关键配置

如何确认成功

命令执行完成后在当前目录生成 output.wav 音频文件，播放可听到合成的语音即为成功。

常见问题

注意事项

• 依赖统一由 pyproject.toml 管理，当前固定 torch==2.9.1+cu128 与 torchaudio==2.9.1+cu128。
• README 提供四套预置配置：default.yaml、trt.yaml、trt-8gb.yaml、cpu-only.yaml，其中 trt 需要自行构建引擎。
• TRT 配置可获得最大音频 tokenizer 速度，但需要自行构建 TensorRT 引擎。
• 各模型的浏览器 Gradio Demo 脚本位于 clis/ 目录（如 moss_tts_app.py、moss_ttsd_app.py 等），MOSS-TTS-Realtime 见 docs/moss_tts_realtime_model_card.md。