Qwen3-TTS-GGUF

把 Qwen3-TTS 塞进 llama.cpp,本地语音合成快起来

开源 free 音频音乐
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 191
维护状态 较活跃
是否开源 是
定价模式 free

项目预览

项目数据

分类音频音乐
开发团队HaujetZhao
所属国家
官网地址
定价模式free
价格说明开源免费,基于llama.cpp本地部署
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型
GitHub 星标★ 191
30天Star增速
HF 下载量
上线时间2026-01-28 00:00:00
代码更新—
仓库体积—
本站数据更新—
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-10-16
浏览次数0

项目介绍

Qwen3-TTS-GGUF 是一个把 Qwen3-TTS 语音合成模型中的语言模型部分导出为 GGUF 格式,并借助 llama.cpp 完成推理加速的开源方案。Qwen3-TTS 本身是阿里通义千问系列的文本转语音模型,但原始实现依赖较重的深度学习框架,在普通设备上推理速度有限。本项目将 LLM 主干转换为 GGUF 量化格式后,利用 llama.cpp 的 Vulkan 和 CUDA 后端进行硬件加速,从而显著降低显存占用、提升生成速度,让消费级显卡甚至集成显卡也能较流畅地跑通语音合成。核心能力包括:GGUF 量化导出流程、基于 llama.cpp 的快速推理、跨平台 GPU 加速支持,以及面向 Python 的调用接口。适合想低成本本地部署 TTS、或研究 TTS 推理优化的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

核心亮点

  • 用 GGUF 量化 + llama.cpp,显存占用和推理延迟明显低于原始框架实现
  • 同时支持 Vulkan 和 CUDA,AMD 显卡和 NVIDIA 显卡都能吃到加速
  • Python 接口简洁,方便集成到现有 TTS 或语音应用流程中

不足之处

  • 项目处于早期,仅 191 星,文档和示例完善度有限
  • 只加速 LLM 部分,声码器等其余组件仍需额外处理,端到端部署链路不完整

适用场景

  • 在消费级显卡或集显笔记本上本地部署中文语音合成
  • 为已有应用接入低延迟 TTS,替换在线语音接口
  • 研究 GGUF 量化对 TTS 音质与速度影响的实验

替代项目

ChatTTS、GPT-SoVITS

上一篇:libratory

下一篇:ComfyUI-Qwen-TTS

同类项目推荐

AuK 开源

一个模型搞定语音生成、编辑与分离

AuK: An Open-Source Foundational Model for Speech Generation and Editing

★ 1520 2026-09-13
VoiceStudio 开源

开源语音全能工作站,克隆、配音、转录一站式搞定

VoiceStudio is the open-source, fully-local ElevenLabs alternative — voice cloning,···

★ 67197 2026-08-09
tango 开源

输入一句话,自动生成匹配的音频内容

A family of diffusion models for text-to-audio generation.

★ 1241 2026-08-09
swift-tts 开源

Swift 项目三行代码接入系统 TTS,兼容 TCA 和 Combine

A straightforward package containing version for Swift modern concurrency, Point-Fre···

★ 52 2026-08-09