vox-serve

让 TTS/STS 模型秒变低延迟流式在线服务

vox-serve 是一个面向 TTS（文本转语音）和 STS（语音转语音）模型的流式原生推理服务引擎，用 Python 编写。它解决了生产环境中部署语音模型时常见的痛点：传统推理框架往往面向单次请求，难以高效支持流式输入输出，导致首字延迟高、并发能力弱。vox-serve 专为流式场景设计，能实时处理语音合成请求，支持文本和语音两种输入模式，并针对模型推理做了性能优化，提供低延迟、高吞吐的服务能力。其核心能力包括流式请求处理、模型热加载、多模型管理以及灵活的部署接口，让开发者可以快速将语音模型封装为可扩展的在线服务。项目处于早期阶段，代码结构清晰，适合对语音 AI 服务化感兴趣的开发者参考或二次开发。

开源 free 音频音乐

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 79

维护状态低维护

是否开源是

定价模式 free

项目数据

分类音频音乐

开发团队vox-serve

所属国家

官网地址https://vox-serve.github.io

GitHubhttps://github.com/vox-serve/vox-serve

定价模式free

价格说明开源项目，Apache-2.0许可证，可免费使用和部署。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型inference,machine-learning,serving,speech,speech-to-speech,text-to-speech

GitHub 星标★ 79

30天Star增速

HF 下载量

上线时间2025-05-29 00:00:00

最近更新2026-09-16 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数3

使用教程

核心亮点

原生支持流式输入输出，首字延迟低，适合实时交互场景
同时支持 TTS 和 STS，覆盖文本转语音和语音转语音两类任务
代码结构清晰，基于 Python，易于定制和集成到现有 AI 服务栈

不足之处

项目处于早期阶段，文档和社区生态待观察
缺少与成熟推理框架（如 Triton）的对比基准，性能数据不透明

适用场景

实时语音助手（如智能客服、语音交互）的语音生成后端
语音克隆或语音转换服务的在线部署
需要流式音频输出的内容生成平台（如播客、有声书）

替代项目

Coqui TTS、MeloTTS、KoboldCpp

项目介绍

vox-serve 是基础设施领域的开源项目，由 vox-serve 开发，2025 年首次发布。

它收录于基础设施分类，该分类目前共有 1,132 个项目，GitHub 星标数为 79。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-16。Apache-2.0许可证，可免费使用和部署。

它主要面向的使用场景是：实时语音助手（如智能客服、语音交互）的语音生成后端。同类可对比的替代方案包括 Coqui TTS、MeloTTS、KoboldCpp。

上一篇：self-hosted-ai-stack

下一篇：mosec