nano-qwen3tts-vllm

给 Qwen3-TTS 装上轻量推理引擎,语音生成快约 3 倍

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 音频音乐 🍴 复刻 29 🐛 待处理 14 👀 关注 2
GitHub ↗
GitHub 星标 ★ 139
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,需自行部署

项目预览

nano-qwen3tts-vllm 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类音频音乐
开发团队tsdocode
定价模式🏷️完全免费
价格说明开源免费,需自行部署
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
GitHub 星标★ 139
上线时间2026-02-01 00:00:00
代码更新2026-10-23
仓库体积792 KB
本站数据更新2026-10-28
维护状态活跃
收录时间2026-10-28
浏览次数0

项目介绍

nano-qwen3tts-vllm 是一个面向 Qwen3-TTS 语音合成模型的推理加速项目,用轻量级 vLLM 风格优化(连续批处理、KV 缓存复用、算子融合等)替代重型推理框架,解决 TTS 推理延迟高、吞吐低的问题。核心能力包括:对 Qwen3-TTS 生成流程做批处理调度与显存优化,官方称实现约 3 倍加速;保持与原始模型接口兼容,便于替换现有推理后端;纯 Python 实现,依赖轻量,适合本地部署与二次开发。项目处于早期阶段,星标约 139,适合想低成本提升 TTS 服务响应速度、又不想引入完整 vLLM 栈的开发者参考与试验。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-28 · 当前星标 ★ 139

核心亮点

  • 用轻量 vLLM 风格优化实现约 3 倍 TTS 推理加速,收益明确
  • 纯 Python 实现、依赖少,比完整 vLLM 更容易集成和改造
  • 保持与 Qwen3-TTS 接口兼容,替换推理后端成本低

不足之处

  • 项目早期、星标少,稳定性和长期维护待观察
  • 加速效果与硬件、批大小强相关,缺少系统基准测试文档

适用场景

  • 本地部署 Qwen3-TTS 做低延迟语音合成
  • 批量生成有声内容时提升吞吐
  • 为语音助手类应用搭建轻量推理服务

替代项目

vLLM、CosyVoice、ChatTTS

上一篇:voicevox_core

下一篇:speech-studio

同类项目推荐

TextToTalk 开源

游戏聊天自动朗读,解放双眼,不错过任何重要信息。

Chat TTS plugin for Dalamud. Has support for triggers/exclusions, several TTS provid···

★ 76 2026-08-09
Chinese-FastSpeech2 开源

让中文语音合成更有韵律,告别机器腔

基于标贝数据继续训练,同时对原本的FastSpeech2模型做了改进,引入了韵律表征以及韵律预测···

★ 276 2026-08-09
kokoro-tts-addon 开源

在浏览器里离线跑神经TTS,低配硬件也能流畅发声。

Local neural TTS for Browsers: fast, expressive, and offline—runs on modest hardwar···

★ 69 2026-08-09
mlp-singer 开源

用纯MLP快速合成韩语歌声,告别慢速自回归。

Official implementation of MLP Singer: Towards Rapid Parallel Korean Singing Voice S···

★ 118 2026-08-09
xcodec 开源

让音频语言模型听懂语义,生成更准的语音和音乐

AAAI 2025: Codec Does Matter: Exploring the Semantic Shortcoming of Codec for Audio ···

★ 317 2026-08-09
Catch-A-Waveform 开源

给一段短音频,生成同风格无限续写

Official pytorch implementation of the paper: "Catch-A-Waveform: Learning to Generat···

★ 191 2026-08-09
LPC_for_TTS 开源

从梅尔频谱图快速提取LPC系数,助力TTS声学建模

Linear Prediction Coefficients estimation from mel-spectrogram implemented in Python···

★ 73 2026-08-09
ElevenLabs-Clone 开源

自建语音合成服务,摆脱 ElevenLabs 限制和费用

A self-hosted ElevenLabs clone for text-to-speech, voice conversion, and AI audio ge···

★ 162 2026-08-09
sub-to-audio 开源

把字幕文件一键变成同步语音,自动配音不求人。

Subtitle to audio, generate audio from any subtitle file using Coqui-ai TTS and sync···

★ 120 2026-08-09