
faster-qwen3-tts
让 Qwen3-TTS 边生成边出声,实时对话不卡顿
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-10-01 · 当前星标 ★ 1425
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Python 3.10 或更高版本
- PyTorch 2.5.1 或更高版本
- Torch 后端:需要 NVIDIA GPU 并支持 CUDA
- GGML 后端:Apple Silicon Mac,macOS 14 或更新版本(Intel Mac 与 Rosetta Python 不支持)
安装与启动步骤
-
1确认环境条件
Torch 后端需 NVIDIA GPU 与 CUDA;无独显的 Apple Silicon Mac 走 GGML 后端,需 macOS 14+ 且为原生 Python。
-
2安装主包
一条命令同时装好运行库与 CLI,默认附带 qwen-tts-hf 兼容包(提供 qwen_tts 模块)。
pip install faster-qwen3-tts -
3查看驱动 CUDA 版本
运行后看输出右上角 CUDA Version,用于判断当前驱动匹配哪个 PyTorch wheel。
nvidia-smi -
4驱动较旧时换 PyTorch
若驱动偏旧导致 torch.cuda.is_available() 为 False,按驱动的 CUDA 版本重装匹配的 wheel,例如 CUDA 12.4。
pip install "torch==2.5.1" "torchaudio==2.5.1" --index-url https://download.pytorch.org/whl/cu124 -
5新显卡特殊处理
RTX 50 系/Blackwell 需 CUDA 12.8 的 PyTorch wheel(PyTorch 2.7+);README 未给出具体安装命令,请按官方 wheel 索引自行安装。
如何确认成功
README 未提供启动验证命令;可确认 pip 安装无报错,NVIDIA 环境下 torch.cuda.is_available() 返回 True。
常见问题
Q:Intel Mac 或 Rosetta 下的 Python 能用吗?
A:不能。Metal wheel 仅支持原生 Apple Silicon Python,Intel Mac 与 Rosetta Python 均不受支持。
Q:能同时安装 qwen-tts 和 qwen-tts-hf 吗?
A:不可以。两者提供同一个 qwen_tts 包,默认安装已包含 qwen-tts-hf,同一环境内不要重复安装。
Q:报错 operation not permitted when stream is capturing?
A:这是 fast path 的 CUDA-graph 捕获问题,torch<=2.5.0 不可靠,请升级到 PyTorch 2.5.1 以上。
Q:提示 NVIDIA driver on your system is too old 怎么办?
A:用 nvidia-smi 查看驱动支持的 CUDA 版本,安装与之匹配的 PyTorch wheel,而非默认 wheel。
Q:RTX 50 系显卡默认装不上?
A:Blackwell 需 CUDA 12.8 的 PyTorch wheel,请改装 cu128 构建(PyTorch 2.7+)。
注意事项
- 默认安装使用 qwen-tts-hf 兼容构建,与上游 qwen-tts 冲突,切勿共存
- CUDA-graph 快速路径要求 PyTorch 2.5.1+,低于该版本可能捕获失败
- README 的 Quick Start 未给出调用示例与端口等信息,实际使用前请查阅仓库最新文档
- 命令行工具会自动选择后端:Apple Silicon 原生 Python 环境自动启用 GGML Metal 运行时
核心亮点
- 基于 Qwen3-TTS,音色克隆与多语言能力开箱可用
- 流式输出降低首包延迟,适合实时语音交互场景
- Python 接口简洁,方便接入现有 LLM 对话链路
不足之处
- 依赖 Qwen3-TTS 权重与 GPU 环境,部署门槛不低
- 项目较新,文档与社区案例仍在积累中
适用场景
- AI 语音助手实时对话
- 虚拟主播/陪伴类应用配音
- 实时字幕与视频配音生成
替代项目
CosyVoice、GPT-SoVITS
上一篇:piper1-gpl
下一篇:MorshuTalk
同类项目推荐
wyoming-piper
开源
把 Piper 接入 Home Assistant,本地离线合成语音
Wyoming protocol server for Piper text to speech system
pypianoroll
开源
把 MIDI 变成钢琴卷帘,方便做音乐 AI 训练和可视化。
A toolkit for working with piano rolls
Music-Source-Separation-Training
开源
一站式训练音乐分离模型,人声伴奏随手拆
Repository for training models for music source separation.
abogen
开源
把电子书一键变成带字幕的有声书,听读两不误。
Generate audiobooks from EPUBs, PDFs and text with synchronized captions.
edge-tts-go
开源
用 Go 一行代码调用 Edge 免费语音合成,无需密钥
Use Microsoft Edge's online text-to-speech service from golang WITHOUT needing Micro···
read-aloud
开源
一键朗读网页,解放双眼,随时随地听内容
An awesome browser extension that reads aloud webpage content with one click
youtube-auto-dub
开源
本地免费给YouTube视频配音,克隆原声换语言,自动同步字幕
Local-first, open-source YouTube dubbing: clones the original voice into another lan···
UnityTTS
开源
在 Unity 里一键让文字开口说话,快速集成 TTS 功能。
Text to Speech in Unity.
SSR-Speech
开源
零样本语音编辑与合成,稳定安全又抗造
SSR-Speech: Towards Stable, Safe and Robust Zero-shot Speech Editing and Synthesis