VoxCPM

环境要求

• Python ≥ 3.10 且 < 3.13
• PyTorch ≥ 2.5.0
• CUDA ≥ 12.0（生产部署需 NVIDIA GPU）
• 如需高吞吐服务，准备 NVIDIA RTX 4090 等可用显卡

安装与启动步骤

1. 1检查环境版本

   确认 Python 版本落在 3.10~3.12 之间，并已装好 PyTorch 2.5.0 及以上、CUDA 12.0 及以上。

   python --version

   复制

2. 2安装 VoxCPM

   通过 pip 安装官方发布的 voxcpm 包，这是 README 中给出的唯一安装方式。

   pip install voxcpm

   复制

3. 3安装推理引擎

   如需多并发请求与异步 API 的高吞吐生产部署，额外安装 Nano-vLLM-VoxCPM。

   pip install nano-vllm-voxcpm

   复制

4. 4编写生成脚本

   用 README 的示例代码加载本地模型权重、生成语音分块并写入 wav 文件，注意采样率为 48000。

   from nanovllm_voxcpm import VoxCPM
   import numpy as np, soundfile as sf
   
   server = VoxCPM.from_pretrained(model="/path/to/VoxCPM", devices=[0])
   chunks = list(server.generate(target_text="Hello from VoxCPM!"))
   sf.write("out.wav", np.concatenate(chunks), 48000)
   server.stop()

   复制

5. 5可选源码安装

   README 也给出从最新 main 源码安装 vllm-omni 的方式，适用于需要自行扩展的场景。

   uv pip install vllm==0.19.0 --torch-backend=auto
   git clone https://github.com/vllm-project/vllm-omni.git && cd vllm-omni
   uv pip install -e .

   复制

关键配置

如何确认成功

运行示例脚本后目录下生成 out.wav 音频文件，即表示推理成功。

常见问题

注意事项

• README 的 CLI Usage 章节内容为空，具体命令行参数请查阅官方文档 voxcpm.readthedocs.io。
• Nano-vLLM-VoxCPM 与 vLLM-Omni 均为独立仓库，部署细节需参考各自文档。
• RTF 约 0.13 的数据是在 NVIDIA RTX 4090 上测得，其他显卡表现可能不同。
• 生成的音频采样率为 48000 Hz，写入文件时需保持一致。