MOSS-TTSD

环境要求

• Python 3.10+（conda 环境示例用 3.12）
• PyTorch 2.0+
• Linux/macOS 终端，可运行 git 与 pip
• 建议有 NVIDIA GPU（CUDA）以获得 flash_attention_2 加速，也可退回 CPU
• 可访问 Hugging Face 下载 OpenMOSS-Team/MOSS-TTSD-v1.0 与 MOSS-Audio-Tokenizer 权重

安装与启动步骤

1. 1克隆 SGLang 分支

   MOSS-TTSD v1.0 需搭配专用 SGLang 分支，必须带 -b 参数克隆，否则依赖不匹配。

   git clone https://github.com/OpenMOSS/sglang -b moss-ttsd-v1.0-with-cat

   复制

2. 2用 venv 建环境

   在 sglang 同级目录创建并激活虚拟环境，README 提供 venv 与 conda 两种方式，任选其一。

   python -m venv moss_ttsd_sglang
   source moss_ttsd_sglang/bin/activate

   复制

3. 3安装 SGLang 依赖

   在已激活的环境中从本地克隆目录安装 SGLang 全部依赖，注意路径指向刚克隆的 sglang 目录。

   pip install ./sglang/python[all]

   复制

4. 4（备选）用 conda 建环境

   若不用 venv，可用 conda 创建 Python 3.12 环境后执行同一条 pip 安装命令。

   conda create -n moss_ttsd_sglang python=3.12
   conda activate moss_ttsd_sglang
   pip install ./sglang/python[all]

   复制

5. 5加载模型与处理器

   用 transformers 的 AutoProcessor 加载模型，需传入音频 tokenizer 的 codec_path 并开启 trust_remote_code。

   import torch
   from transformers import AutoModel, AutoProcessor
   
   pretrained_model_name_or_path = "OpenMOSS-Team/MOSS-TTSD-v1.0"
   audio_tokenizer_name_or_path = "OpenMOSS-Team/MOSS-Audio-Tokenizer"
   device = "cuda" if torch.cuda.is_available() else "cpu"
   dtype = torch.bfloat16 if device == "cuda" else torch.float32
   
   processor = AutoProcessor.from_pretrained(
       pretrained_model_name_or_path,
       trust_remote_code=True,
       codec_path=audio_tokenizer_name_or_path,
   )
   processor.audio_tokenizer = processor.audio_tokenizer.to(device)
   processor.audio_tokenizer.eval()
   
   attn_implementation = "flash_attention_2" if device == "cuda" else "sdpa"

   复制

6. 6准备参考音频与文本

   MOSS-TTSD 采用续写式工作流：先给每位说话人的参考音频及其转写文本作为前缀，再给待生成的对话文本。

关键配置

如何确认成功

Python 中执行模型与处理器加载代码不报错，权重能从 Hugging Face 成功下载并完成 audio_tokenizer 的设备迁移。

常见问题

注意事项

• README 未给出具体的依赖清单与推理调用示例，本教程仅覆盖其中实际出现的克隆、环境搭建与加载步骤。
• 模型权重托管在 Hugging Face，国内网络可能下载缓慢，建议提前配置好镜像或代理。
• README 明确要求不得将模型用于未授权声音克隆、深度伪造或任何违法活动，使用时须遵守当地法律法规。
• 非 SGLang 路径下的通用 pip 安装说明在 README 中未展开，无法据此写出确切命令。