TheWhisper

让 Whisper 在本地设备上边听边转,低延迟出字幕

开源 🏷️定价信息待确认 ⚠️ 链接可跳转,访问体验不确定 语音识别 🍴 复刻 58 👀 关注 12
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 905
维护状态 较活跃
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

TheWhisper 项目界面预览图
图片来源:项目官网

项目数据

分类语音识别
开发团队TheStageAI
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态⚠️ 链接可跳转,访问体验不确定
是否开源是
开源协议MIT
主要语言Python
技术栈/模型apple-silicon,coreml,mlx,nvidia-gpu,on-device-ai,real-time,speech-recognition,speech-to-text,streaming,transcription,translation,voice,voice-ai
GitHub 星标★ 905
上线时间2025-10-19 00:00:00
代码更新2026-10-31
仓库体积2.6 MB
本站数据更新2026-11-17
维护状态较活跃
收录时间2026-10-03
浏览次数5

项目介绍

TheWhisper 是对 OpenAI Whisper 语音识别模型的工程化优化版本,专注于流式识别和端侧部署两大场景。原版 Whisper 虽然识别准确率高,但模型体积大、推理延迟高,难以在手机、笔记本等设备上实时运行。TheWhisper 针对不同硬件后端做了适配:在 Apple Silicon 上借助 CoreML 和 MLX 框架加速,在 NVIDIA GPU 上做推理优化,并支持流式分块解码,让音频边输入边出文字,而不是等整段录完再转写。项目用 Python 实现,覆盖实时字幕、会议记录、语音笔记等需要低延迟转写的用途,同时保留 Whisper 多语言识别能力。对于想在本地跑语音识别、又不想依赖云端 API 的开发者来说,它提供了开箱可用的优化方案,兼顾隐私与响应速度。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-03 · 当前星标 ★ 905

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:进阶 约 30 分钟 部署方式:本地 GPU 4 步

环境要求

  • Python 3.10+
  • 对应平台加速库

安装与启动步骤

  1. 1按平台装

    Apple 用 [apple] extra,NVIDIA 用 [nvidia] extra,装错会拿不到加速后端。

    git clone https://github.com/TheStageAI/TheWhisper.git
    cd TheWhisper
    pip install .[nvidia]
  2. 2下模型

    走 TheStage 的模型仓库,按需拉 ASR 或 TTS 权重。

  3. 3跑转写

    先跑官方样例确认精度与延迟,再批量处理自己的音频。

  4. 4端侧部署

    Jetson 等设备要装对应索引源的包,普通 pip 源会装错架构。

如何确认成功

样例音频能转写,延迟符合预期。

注意事项

  • 它的卖点是同一套代码跨云与端侧,代价是安装源较复杂。

核心亮点

  • 针对 Apple Silicon 用 CoreML/MLX 加速,Mac 和 iPhone 上推理更快
  • 支持流式分块解码,可边说话边出文字,适合实时字幕场景
  • 覆盖 NVIDIA GPU 与端侧两类硬件,部署选择灵活

不足之处

  • 项目早期,星标不足千,API 和文档可能还不稳定
  • 流式模式下的准确率与延迟权衡缺少详细基准数据

适用场景

  • 本地实时字幕:会议、直播中边说话边生成文字
  • 隐私敏感的语音笔记转写,音频不出本机
  • 在 Mac/iPhone 上做离线语音助手或转写工具

替代项目

whisper.cpp、faster-whisper

上一篇:whisper-flow

下一篇:whisper.el

同类项目推荐

voicetypr 开源

按快捷键说话,文字直接落到光标处

Voicetypr - AI powered offline voice to text dictation tool for busy founders, vibe ···

★ 746 2026-11-10
TheWhisper 开源

让 Whisper 在本地设备上边听边转,低延迟出字幕

Optimized Whisper models for streaming and on-device use

★ 905 2026-10-03
petal 开源

菜单栏一点,本地把音频转成文字

Petal is a native macOS menu bar app for fast, local-first audio transcription.

★ 280 2026-09-24
SmartSub 开源

本地离线搞定字幕生成、翻译、配音和烧录,一站式高效处理

视频转字幕、字幕翻译、AI 配音与声音克隆、字幕烧录——免费开源的一站式桌面工具。基于 ···

★ 6076 2026-08-10
yap 开源

按快捷键说话,文字直接落到任意 Mac 输入框

Free, open source voice dictation for macOS. On-device transcription with Apple's Sp···

★ 480 2026-09-12
auto-caption 开源

开麦即出字幕,会议直播网课实时上屏

A cross-platform real-time subtitle display software. 一个跨平台的实时字幕显示软件。

★ 610 2026-09-16
hns 开源

对着麦克风说话,文字自动进剪贴板,随手粘进终端。

hns is a speech-to-text CLI tool to transcribe your voice from your microphone direc···

★ 120 2026-09-24
open-wispr 开源

macOS 本地语音打字,离线隐私,开口即成文

Local, private voice dictation for macOS

★ 226 2026-09-24
OpenSuperWhisper 开源

在 Mac 上实现高精度离线语音听写,提升文字输入效率。

macOS dictation app

★ 3155 2026-08-10