CosyVoice

环境要求

• Git（需支持 --recursive 拉取子模块）
• 已安装 Conda / Miniconda
• Python 3.10
• 可访问 GitHub 与 pip 镜像源（README 使用阿里云镜像）
• 可选：NVIDIA GPU 与 Docker（用于服务化部署）

安装与启动步骤

1. 1克隆仓库

   使用 --recursive 一次性拉取主仓库及子模块，目录名默认为 CosyVoice。

   git clone --recursive https://github.com/FunAudioLLM/CosyVoice.git

   复制

2. 2补齐子模块

   若因网络问题子模块没拉全，进入目录后反复执行该命令直到成功。

   cd CosyVoice
   git submodule update --init --recursive

   复制

3. 3创建 Conda 环境

   新建名为 cosyvoice 的环境并指定 Python 3.10，需先自行安装 Miniconda。

   conda create -n cosyvoice -y python=3.10

   复制

4. 4安装依赖

   激活环境后按 requirements.txt 安装依赖，README 使用阿里云镜像并信任该主机。

   conda activate cosyvoice
   pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple/ --trusted-host=mirrors.aliyun.com

   复制

5. 5解决 sox 兼容问题

   仅当遇到 sox 兼容问题时执行：Ubuntu 与 CentOS 命令不同，按系统二选一。

   sudo apt-get install sox libsox-dev

   复制

6. 6运行示例脚本

   按 example.py 中的用法体验各模型，README 推荐优先使用 Fun-CosyVoice3-0.5B。

   python example.py

   复制

7. 7构建部署镜像

   如需服务化部署，进入 runtime/python 目录构建镜像，镜像名为 cosyvoice:v1.0。

   cd runtime/python
   docker build -t cosyvoice:v1.0 .

   复制

8. 8启动 gRPC/FastAPI 服务

   用 NVIDIA runtime 启动容器并暴露 50000 端口，二选一启动 grpc 或 fastapi 服务端。

   docker run -d --runtime=nvidia -p 50000:50000 cosyvoice:v1.0 /bin/bash -c "cd /opt/CosyVoice/CosyVoice/runtime/python/grpc && python3 server.py --port 50000 --max_conc 4 --model_dir iic/CosyVoice-300M && sleep infinity"

   复制

关键配置

如何确认成功

本地运行 python example.py 无报错即安装成功；服务化部署可用 docker ps 看到容器运行，并通过 client.py 连接 50000 端口触发合成。

常见问题

注意事项

• 运行示例前务必先 conda activate cosyvoice 激活环境。
• docker run 使用 --runtime=nvidia，需具备 NVIDIA 容器运行环境。
• vLLM 依赖要求较多，建议用 conda create -n cosyvoice_vllm --clone cosyvoice 克隆新环境以免污染原环境。
• 训练与推理的高级脚本位于 examples/libritts 目录，TensorRT-LLM 加速部署见 runtime/triton_trtllm。