NeMo-Speech.cpp

用 C++ 跑 NeMo 语音模型，免 Python 低资源做识别与合成

NeMo-Speech.cpp 是一个基于 ggml 的轻量级 C++ 推理运行时，专门用于运行 NVIDIA NeMo 系列语音模型，覆盖语音识别（ASR）与文本转语音（TTS）两大任务。它解决的核心问题是：NeMo 官方工具链依赖 Python 与 PyTorch，部署体积大、启动慢，难以嵌入到桌面端、移动端或边缘设备中。该项目把模型推理用纯 C++ 重写，借助 ggml 的量化与 CPU/GPU 后端能力，让语音模型可以在无 Python 环境、低内存占用的条件下运行，并提供 server 模式方便以 HTTP 接口方式对外提供识别与合成服务。核心能力包括：加载量化后的 NeMo 模型权重、执行流式或离线语音识别、文本转语音合成，以及通过内置服务端做批量或在线推理。整体定位类似 whisper.cpp 之于 Whisper，是 NeMo 语音模型在 C++ 侧的轻量落地方案。