whisper-asr-webservice

环境要求

• 已安装 Docker（Docker Desktop 或 Docker Engine）
• GPU 部署需 NVIDIA 驱动并支持 --gpus all
• 本地源码运行需 Python 环境与 pip3
• 宿主机 9000 端口未被占用

安装与启动步骤

1. 1启动CPU容器

   用官方镜像后台启动服务，映射 9000 端口，指定基础模型与引擎；首次运行需下载模型，耐心等待。

   docker run -d -p 9000:9000 \
     -e ASR_MODEL=base \
     -e ASR_ENGINE=openai_whisper \
     onerahmet/openai-whisper-asr-webservice:latest

   复制

2. 2启动GPU容器

   有 NVIDIA 显卡时改用 latest-gpu 镜像并加 --gpus all，显存不足会让容器启动失败。

   docker run -d --gpus all -p 9000:9000 \
     -e ASR_MODEL=base \
     -e ASR_ENGINE=openai_whisper \
     onerahmet/openai-whisper-asr-webservice:latest-gpu

   复制

3. 3挂载模型缓存

   把缓存目录挂到宿主机，避免每次重建容器都重复下载模型，缩短启动时间。

   docker run -d -p 9000:9000 \
     -v $PWD/cache:/root/.cache/ \
     onerahmet/openai-whisper-asr-webservice:latest

   复制

4. 4访问Swagger验证

   浏览器打开服务地址，能看到 Swagger UI 接口文档即代表启动成功，可直接在页面上传音频试跑。

5. 5安装poetry

   不用 Docker 而想本地跑源码时，先用 pip3 安装 v2.x 版本的 poetry 作为依赖管理工具。

   pip3 install poetry

   复制

6. 6安装依赖

   按硬件选择 cpu 或 cuda 附加依赖安装；cuda 版本需要本机已装好 CUDA 环境。

   poetry install --extras cpu

   复制

7. 7启动本地服务

   用 poetry 运行服务命令，绑定 0.0.0.0 与 9000 端口，效果与容器方式一致。

   poetry run whisper-asr-webservice --host 0.0.0.0 --port 9000

   复制

关键配置

如何确认成功

浏览器访问 http://localhost:9000 或 http://0.0.0.0:9000，能看到 Swagger UI 文档页即启动成功。

常见问题

注意事项

• CPU 与 GPU 使用不同镜像标签：latest 与 latest-gpu，别混用
• 首次运行需要下载模型，耗时较长，建议提前挂载缓存目录
• GPU 部署依赖宿主机 NVIDIA 驱动与 --gpus all 参数支持
• 本教程命令与端口均来自 README，未在 README 出现的参数请勿自行添加