
faster-whisper
把 Whisper 语音转文字提速数倍,CPU 也能跑
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-10-03 · 当前星标 ★ 26817
使用教程
环境要求
- Python 环境与 pip(用于安装 faster-whisper)
- GPU 场景需可用的 CUDA 环境(cuBLAS、cuDNN 9 系库)
- 用 pip 安装 CUDA 依赖的方式仅支持 Linux
- Docker 方案可使用镜像 nvidia/cuda:12.3.2-cudnn9-runtime-ubuntu22.04
安装与启动步骤
-
1安装 faster-whisper
README 推荐从 PyPI 直接安装该模块,这是最简方式,装完即可在 Python 中导入使用。
pip install faster-whisper -
2安装 CUDA 运行库
Linux 上可选用 pip 补充 cuBLAS 与 cuDNN 9 系库;不用 GPU 可跳过这一步。
pip install nvidia-cublas-cu12 nvidia-cudnn-cu12==9.* -
3设置库搜索路径
用 pip 装 CUDA 库时,必须在启动 Python 之前设置 LD_LIBRARY_PATH,否则会找不到动态库。
export LD_LIBRARY_PATH=`python3 -c 'import os; import nvidia.cublas.lib; import nvidia.cudnn.lib; print(os.path.dirname(nvidia.cublas.lib.__file__) + ":" + os.path.dirname(nvidia.cudnn.lib.__file__))'` -
4加载模型并选精度
README 示例片段:GPU 用 float16;GPU 省显存或 CPU 上跑的示例为 int8,需自行补全导入与变量。
# Run on GPU with FP16 model = WhisperModel(model_size, device="cuda", compute_type="float16") # or run on GPU with INT8 # or run on CPU with INT8 -
5改用 master 分支
如需最新代码,README 给出从 GitHub master 压缩包强制重装的方式,会覆盖已装版本。
pip install --force-reinstall "faster-whisper @ https://github.com/SYSTRAN/faster-whisper/archive/refs/heads/master.tar.gz" -
6安装指定提交
README 另给出按 commit 哈希安装的方式,适合锁定某个确定版本复现问题。
pip install --force-reinstall "faster-whisper @ https://github.com/SYSTRAN/faster-whisper/archive/a4f1cc8f11433e454c3934442b5e1a4ed5e865c3.tar.gz"
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
model_size | 是 | 传给 WhisperModel 的模型规格,README 基准中以 Large-v2 为例 | large-v2 |
device | 否 | 模型运行设备,GPU 用 cuda,CPU 则相应切换 | cuda |
compute_type | 否 | 计算精度,float16 走 GPU FP16,int8 可省显存或用于 CPU | float16 |
如何确认成功
构造 WhisperModel 时无报错、能正常转写音频即成功;若找不到 cuBLAS/cuDNN 会报动态库错误。
常见问题
Q:运行时报错找不到 cuBLAS 或 cuDNN 怎么办?
A:在 Linux 上用 pip 安装 nvidia-cublas-cu12 和 nvidia-cudnn-cu12==9.*,并在启动 Python 前设置 LD_LIBRARY_PATH 指向这两个库目录。
Q:想用最新代码而不是 PyPI 版本?
A:执行 pip install --force-reinstall "faster-whisper @ https://github.com/SYSTRAN/faster-whisper/archive/refs/heads/master.tar.gz" 从 master 分支安装。
Q:不想自己装 CUDA 库有什么办法?
A:使用 NVIDIA 官方镜像 nvidia/cuda:12.3.2-cudnn9-runtime-ubuntu22.04,cuBLAS 与 cuDNN 已预装在该镜像中。
Q:如何在 CPU 上获得更快速度?
A:README 说明在 CPU 和 GPU 上使用 8 位量化都能进一步提升效率,CPU 场景使用 compute_type="int8"。
注意事项
- 用 pip 安装 CUDA 依赖仅适用于 Linux,且必须在启动 Python 前设置 LD_LIBRARY_PATH。
- GPU 上可用 float16,也可用 int8 量化降低显存占用;CPU 上使用 int8。
- README 中的加载示例是代码片段,需自行补全导入语句与变量后再运行。
核心亮点
- 相比原生 Whisper 推理速度提升明显,CPU 上 int8 量化后可用性大幅提高
- 显存和内存占用更低,小显存显卡也能跑 large 模型
- API 与 openai-whisper 接近,替换成本低,支持时间戳和 VAD 过滤
不足之处
- 依赖 CTranslate2,模型需转换格式,首次使用有额外准备步骤
- 极端量化(如 int8)下部分语种或口音准确率会有可感知下降
适用场景
- 本地批量把会议、播客录音转成带时间戳的文字稿
- 给视频生成实时或准实时字幕
- 在无 GPU 的服务器上做多语言语音转写服务
替代项目
whisper.cpp、openai-whisper、whisperX
上一篇:phonon
下一篇:whisper-flow
同类项目推荐
myna
开源
Ubuntu 上按快捷键说话,文字直接落到光标处
Myna is a lightweight speech-to-text application for Ubuntu Desktop.
VivaDicta
开源
说话即笔记,AI 帮你聊出答案
iOS & watchOS speech-to-text app with AI voice keyboard, on-device RAG, and chat wit···
SenseVoice
开源
一个模型搞定多语言识别、情感和事件检测,开箱即用
Open-source SenseVoiceSmall model for Mandarin, Cantonese, English, Japanese, and Ko···
qwen-scribe
开源
Mac 上离线语音转文字,说完即出字,音频不出本机
Private, local transcription and system-wide dictation for Apple Silicon.
whisper
开源
音频丢进去,多语言文字直接出来
Robust Speech Recognition via Large-Scale Weak Supervision
TranscriptHub
开源
上传音频,自动出带时间戳的文字稿
OpenSuperWhisper
开源
在 Mac 上实现高精度离线语音听写,提升文字输入效率。
macOS dictation app
whisper-asr-webservice
开源
一行命令部署Whisper语音转文字API,快速集成到你的应用
OpenAI Whisper ASR Webservice API
whisper-timestamped
开源
给Whisper识别结果加上精准词级时间戳和置信度
Multilingual Automatic Speech Recognition with word-level timestamps and confidence