faster-whisper

环境要求

• Python 环境与 pip（用于安装 faster-whisper）
• GPU 场景需可用的 CUDA 环境（cuBLAS、cuDNN 9 系库）
• 用 pip 安装 CUDA 依赖的方式仅支持 Linux
• Docker 方案可使用镜像 nvidia/cuda:12.3.2-cudnn9-runtime-ubuntu22.04

安装与启动步骤

1. 1安装 faster-whisper

   README 推荐从 PyPI 直接安装该模块，这是最简方式，装完即可在 Python 中导入使用。

   pip install faster-whisper

   复制

2. 2安装 CUDA 运行库

   Linux 上可选用 pip 补充 cuBLAS 与 cuDNN 9 系库；不用 GPU 可跳过这一步。

   pip install nvidia-cublas-cu12 nvidia-cudnn-cu12==9.*

   复制

3. 3设置库搜索路径

   用 pip 装 CUDA 库时，必须在启动 Python 之前设置 LD_LIBRARY_PATH，否则会找不到动态库。

   export LD_LIBRARY_PATH=`python3 -c 'import os; import nvidia.cublas.lib; import nvidia.cudnn.lib; print(os.path.dirname(nvidia.cublas.lib.__file__) + ":" + os.path.dirname(nvidia.cudnn.lib.__file__))'`

   复制

4. 4加载模型并选精度

   README 示例片段：GPU 用 float16；GPU 省显存或 CPU 上跑的示例为 int8，需自行补全导入与变量。

   # Run on GPU with FP16
   model = WhisperModel(model_size, device="cuda", compute_type="float16")
   
   # or run on GPU with INT8
   
   # or run on CPU with INT8

   复制

5. 5改用 master 分支

   如需最新代码，README 给出从 GitHub master 压缩包强制重装的方式，会覆盖已装版本。

   pip install --force-reinstall "faster-whisper @ https://github.com/SYSTRAN/faster-whisper/archive/refs/heads/master.tar.gz"

   复制

6. 6安装指定提交

   README 另给出按 commit 哈希安装的方式，适合锁定某个确定版本复现问题。

   pip install --force-reinstall "faster-whisper @ https://github.com/SYSTRAN/faster-whisper/archive/a4f1cc8f11433e454c3934442b5e1a4ed5e865c3.tar.gz"

   复制

关键配置

如何确认成功

构造 WhisperModel 时无报错、能正常转写音频即成功；若找不到 cuBLAS/cuDNN 会报动态库错误。

常见问题

注意事项

• 用 pip 安装 CUDA 依赖仅适用于 Linux，且必须在启动 Python 前设置 LD_LIBRARY_PATH。
• GPU 上可用 float16，也可用 int8 量化降低显存占用；CPU 上使用 int8。
• README 中的加载示例是代码片段，需自行补全导入语句与变量后再运行。