vox-serve

让 TTS/STS 模型秒变低延迟流式在线服务

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 音频音乐 🍴 复刻 11 🐛 待处理 3 👀 关注 4
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 80
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0许可证,可免费使用和部署。

项目预览

vox-serve 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类音频音乐
开发团队vox-serve
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0许可证,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型inference,machine-learning,serving,speech,speech-to-speech,text-to-speech
GitHub 星标★ 80
上线时间2025-05-29 00:00:00
代码更新2026-11-01
仓库体积9.0 MB
本站数据更新2026-11-10
维护状态较活跃
收录时间2026-08-09
浏览次数5

项目介绍

vox-serve 是一个面向 TTS(文本转语音)和 STS(语音转语音)模型的流式原生推理服务引擎,用 Python 编写。它解决了生产环境中部署语音模型时常见的痛点:传统推理框架往往面向单次请求,难以高效支持流式输入输出,导致首字延迟高、并发能力弱。vox-serve 专为流式场景设计,能实时处理语音合成请求,支持文本和语音两种输入模式,并针对模型推理做了性能优化,提供低延迟、高吞吐的服务能力。其核心能力包括流式请求处理、模型热加载、多模型管理以及灵活的部署接口,让开发者可以快速将语音模型封装为可扩展的在线服务。项目处于早期阶段,代码结构清晰,适合对语音 AI 服务化感兴趣的开发者参考或二次开发。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 80

核心亮点

  • 原生支持流式输入输出,首字延迟低,适合实时交互场景
  • 同时支持 TTS 和 STS,覆盖文本转语音和语音转语音两类任务
  • 代码结构清晰,基于 Python,易于定制和集成到现有 AI 服务栈

不足之处

  • 项目处于早期阶段,文档和社区生态待观察
  • 缺少与成熟推理框架(如 Triton)的对比基准,性能数据不透明

适用场景

  • 实时语音助手(如智能客服、语音交互)的语音生成后端
  • 语音克隆或语音转换服务的在线部署
  • 需要流式音频输出的内容生成平台(如播客、有声书)

替代项目

Coqui TTS、MeloTTS、KoboldCpp

上一篇:self-hosted-ai-stack

下一篇:mosec

同类项目推荐

StringZilla 开源

一行代码,让字符串处理快上百倍,跨语言通用。

Up to 100x faster strings for C, C++, CUDA, Python, Rust, Swift, JS, & Go, leveragin···

★ 3586 2026-08-10
backlot 开源

本地跑通企业SaaS API,带真实分页鉴权和ACL

A local emulator for enterprise SaaS APIs — Slack, Gmail, Google Drive, GitHub, Jir···

★ 222 2026-09-12
pixeltable 开源

像用数据库一样管理多模态 AI 数据,省去管道工程

The backend agents build with - Multimodal database, orchestration, and serving in o···

★ 1660 2026-08-09
llm-gateway 开源

一套接口接所有大模型,Agent 换供应商不用改代码

Open Source LLM Gateway

★ 7629 2026-09-16
FlagGems 开源

用 Triton 写 LLM 算子,一套代码跑多种 GPU

FlagGems is an operator library for large language models implemented in the Triton ···

★ 1171 2026-09-15
lucid-memory 开源

本地秒级记忆,让 AI 更懂你,零成本零延迟

Memory for AI that works like yours—local, instant, persistent. 13x faster than Pin···

★ 162 2026-08-09
mlflow 开源

每次实验全程留痕,模型好坏一眼看清不靠猜

The open source AI engineering platform for agents, LLMs, and ML models. MLflow enab···

★ 28746 2026-08-09
Star-Attention 开源

长序列推理提速,让大模型轻松处理超长文本。

Efficient LLM Inference over Long Sequences

★ 392 2026-08-09
ultracontext 开源

自动抓取并共享智能体上下文,让多智能体协作不再各说各话。

Open Source Context infrastructure for AI agents. Auto-capture and share your agents···

★ 441 2026-10-06