xttsv2-vllm-streaming-server

让 XTTS-v2 实时说话,0.5 秒首响,即插即用

这是一个基于 vLLM 的 XTTS-v2 实时流式语音合成服务器,提供与 OpenAI 兼容的 API 接口。它解决了 XTTS-v2 模型在推理时延迟高、难以实现流式输出的问题,通过 vLLM 优化推理性能,将首包延迟(TTFB)降低至约 0.5 秒。核心能力包括:支持流式音频输出,可边合成边播放;提供标准化的 OpenAI API 格式,方便集成到现有应用;通过 Docker 容器化部署,简化环境配置。项目面向需要低延迟、实时语音交互的场景,如语音助手、实时配音、交互式对话系统等。目前处于早期阶段,功能相对聚焦,但已具备基本的生产可用性。

开源 free 音频音乐
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 54
维护状态 维护中
是否开源 是
定价模式 free

项目数据

分类音频音乐
开发团队wuxuedaifu
所属国家
官网地址
定价模式free
价格说明开源项目,可自行部署,无收费信息。
访问状态
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型real-time,streaming,tts,vllm,xttsv2
GitHub 星标★ 54
30天Star增速
HF 下载量
上线时间2026-05-20 00:00:00
最近更新2026-09-01 00:00:00
维护状态维护中
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

核心亮点

  • 首包延迟低至约0.5秒,满足实时交互需求
  • OpenAI 兼容 API,无缝替换现有 TTS 服务
  • Docker 一键部署,降低环境搭建成本

不足之处

  • 文档/社区待观察
  • 仅支持 XTTS-v2 单一模型,扩展性有限

适用场景

  • 实时语音助手与对话机器人
  • 直播/视频实时配音
  • 需要低延迟响应的交互式 TTS 应用

替代项目

Coqui TTS、MeloTTS、ChatTTS

项目介绍

xttsv2-vllm-streaming-server 是音频音乐领域的开源项目,由 wuxuedaifu 开发,是 2026 年新上线的项目。

它收录于音频音乐分类,该分类目前共有 738 个项目,GitHub 星标数为 54。

项目仍在小幅维护中,最近一次代码更新于 2026-09-01。可自行部署,无收费信息。

它主要面向的使用场景是:实时语音助手与对话机器人。同类可对比的替代方案包括 Coqui TTS、MeloTTS、ChatTTS。

同类项目推荐

tango 开源

输入一句话,自动生成匹配的音频内容

A family of diffusion models for text-to-audio generation.

★ 1239 2026-08-09
AuK 开源

一个模型搞定语音生成、编辑与分离

AuK: An Open-Source Foundational Model for Speech Generation and Editing

★ 1236 2026-09-13
swift-tts 开源

Swift 项目三行代码接入系统 TTS,兼容 TCA 和 Combine

A straightforward package containing version for Swift modern concurrency, Point-Fre···

★ 52 2026-08-09
ai-dj 开源

现场演出中实时用 AI 生成音乐,保持人类掌控

AI music generation for live performance - Standalone (Ableton Link) + VST3/AU. 8 tr···

★ 246 2026-08-09