NeMo-Speech.cpp

用 C++ 跑 NeMo 语音模型,免 Python 低资源做识别与合成

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 语音识别 🍴 复刻 53 🐛 待处理 29 👀 关注 1
GitHub ↗
GitHub 星标 ★ 232
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,需自行部署

项目预览

NeMo-Speech.cpp 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类语音识别
开发团队NVIDIA
定价模式🏷️完全免费
价格说明开源免费,需自行部署
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言C++
技术栈/模型ggml,inference,server,speech-recognition,text-to-speech
GitHub 星标★ 232
上线时间2026-07-15 00:00:00
代码更新2026-11-02
仓库体积6.1 MB
本站数据更新2026-11-03
维护状态活跃
收录时间2026-09-15
浏览次数1

项目介绍

NeMo-Speech.cpp 是一个基于 ggml 的轻量级 C++ 推理运行时,专门用于运行 NVIDIA NeMo 系列语音模型,覆盖语音识别(ASR)与文本转语音(TTS)两大任务。它解决的核心问题是:NeMo 官方工具链依赖 Python 与 PyTorch,部署体积大、启动慢,难以嵌入到桌面端、移动端或边缘设备中。该项目把模型推理用纯 C++ 重写,借助 ggml 的量化与 CPU/GPU 后端能力,让语音模型可以在无 Python 环境、低内存占用的条件下运行,并提供 server 模式方便以 HTTP 接口方式对外提供识别与合成服务。核心能力包括:加载量化后的 NeMo 模型权重、执行流式或离线语音识别、文本转语音合成,以及通过内置服务端做批量或在线推理。整体定位类似 whisper.cpp 之于 Whisper,是 NeMo 语音模型在 C++ 侧的轻量落地方案。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-15 · 当前星标 ★ 232

核心亮点

  • 纯 C++ + ggml 实现,无需 Python/PyTorch 运行时,便于嵌入桌面与边缘设备
  • 同时覆盖 ASR 与 TTS 两类语音任务,一个运行时解决识别和合成
  • 内置 server 模式,可直接以 HTTP 服务方式对外提供语音推理能力

不足之处

  • 项目处于早期,星标仅 104,模型覆盖范围与算子支持仍在完善中
  • 文档与预转换模型资源有限,上手需要自行处理 NeMo 权重转换

适用场景

  • 在无 Python 环境的边缘设备或嵌入式板卡上部署离线语音识别
  • 为桌面应用集成轻量文本转语音,避免打包庞大的 PyTorch 依赖
  • 自建语音识别/合成 HTTP 服务,供内部系统或产品调用

替代项目

whisper.cpp、sherpa-onnx、kaldi

上一篇:stt-server

下一篇:docker-whisper

同类项目推荐

talon-ai-tools 开源

用语音直接指挥 AI 工具,解放双手提效

Query LLMs and AI tools with voice commands

★ 92 2026-08-09
Talkify 开源

按住说话,Mac 上离线秒变文字,免费又保隐私

Lightning-fast, free, local first voice dictation for macOS with on-device transcrip···

★ 586 2026-09-13
saa-sdk 开源

在转写前先判断这句话是不是对你说的,减少误触发

Addressee detection for voice agents: device-directed speech detection that runs bef···

★ 128 2026-10-26
obs-localvocal 开源

直播录屏时,本地AI实时生成字幕,保护隐私零延迟

OBS plugin for local speech recognition and captioning using AI

★ 1657 2026-09-10
dikte 开源

按住说话,松手出字,Linux 桌面语音输入

Voice-to-text dictation app.

★ 207 2026-09-24
spokestack-python 开源

在嵌入式设备上快速集成离线语音交互,无需云端依赖。

Spokestack is a library that allows a user to easily incorporate a voice interface i···

★ 142 2026-08-09