vllm-chatterbox-stream

用 vLLM 驱动，0.7 秒首响，23 语言实时语音合成，支持声音克隆

vllm-chatterbox-stream 是一个基于 vLLM 推理引擎的多语言文本转语音（TTS）服务，兼容 OpenAI API 接口，支持实时 PCM 音频流输出。它解决了传统 TTS 服务延迟高、部署复杂、多语言支持不足的问题，核心能力包括：极低的首次音频响应时间（约 0.7 秒）、声音克隆（支持少量样本复刻音色）、覆盖 23 种语言，并利用 vLLM 的高效 GPU 推理优化吞吐。项目采用 FastAPI 构建服务层，支持 CUDA 加速，适合需要低延迟、高并发、多语言 TTS 的场景，如实时语音交互、内容生成、无障碍辅助等。作为早期项目，它提供了清晰的部署路径和 OpenAI 兼容接口，便于集成到现有 AI 应用生态中。

开源 free 音频音乐

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 55

维护状态维护中

是否开源是

定价模式 free

项目数据

分类音频音乐

开发团队wuxuedaifu

所属国家

官网地址

GitHubhttps://github.com/wuxuedaifu/vllm-chatterbox-stream

定价模式free

价格说明开源项目，MIT许可证，可免费自部署使用，无在线服务或付费版本。

访问状态

是否开源是

开源协议MIT

主要语言Python

技术栈/模型audio,chatterbox,cuda,fastapi,gpu,llm-inference,low-latency,multilingual,openai-api,pytorch,real-time,speech-synthesis,streaming,text-to-speech,tts,vllm,voice-cloning

GitHub 星标★ 55

30天Star增速

HF 下载量

上线时间2026-06-17 00:00:00

最近更新2026-09-01 00:00:00

维护状态维护中

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数3

使用教程

核心亮点

基于 vLLM 推理引擎，GPU 利用率高，吞吐性能优于传统 TTS 服务
兼容 OpenAI API，集成成本低，可直接替换或扩展现有语音服务
支持实时 PCM 流式输出，首字节延迟约 0.7 秒，适合交互场景

不足之处

早期项目，文档和社区生态尚不完善，需自行排查问题
依赖 CUDA 和 GPU 环境，部署门槛较高，CPU 推理不支持

适用场景

实时语音助手/聊天机器人语音回复
多语言内容创作（播客、视频配音）
个性化语音合成（如虚拟主播、游戏角色）

替代项目

Coqui TTS、Mozilla TTS、ESPnet-TTS

项目介绍

vllm-chatterbox-stream 是音频音乐领域的开源项目，由 wuxuedaifu 开发，是 2026 年新上线的项目。

它收录于音频音乐分类，该分类目前共有 738 个项目，GitHub 星标数为 55。

项目仍在小幅维护中，最近一次代码更新于 2026-09-01。MIT许可证，可免费自部署使用，无在线服务或付费版本。

它主要面向的使用场景是：实时语音助手/聊天机器人语音回复。同类可对比的替代方案包括 Coqui TTS、Mozilla TTS、ESPnet-TTS。

上一篇：kokoro-coreml

下一篇：zerovox