
speech-to-speech
用开源模型在本地跑起语音助手,告别云端依赖
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 13665
使用教程
环境要求
- Python 3.10+,推荐 Python 3.11
- 需在已激活的虚拟环境中安装并运行
- Ubuntu 需先安装本地音频库 libportaudio2、libsndfile1
- 首次运行需联网下载并预热模型
- 资源参考:Apple Silicon 建议 16GB 以上统一内存;NVIDIA 建议 24GB 显存
安装与启动步骤
-
1创建虚拟环境
在项目目录下用 Python 3.10+ 创建名为 .venv 的虚拟环境,环境需自行准备。
python3 -m venv .venv -
2激活虚拟环境
激活后所有安装与运行都必须在同一环境内,其他终端运行前也要先激活。
source .venv/bin/activate -
3装系统音频库
仅 Ubuntu/Linux 需要,用于本地音频输入输出;其他系统可跳过此步。
sudo apt-get install libportaudio2 libsndfile1 -
4安装项目包
从 PyPI 安装,默认已包含 STT、OpenAI 兼容 LLM 接口、TTS 与实时服务依赖。
pip install speech-to-speech -
5启动本地语音代理
首次运行会先下载并预热模型,随后连接麦克风;允许麦克风权限后说话并停顿。
speech-to-speech local -
6Docker 方式启动
另一种方案:先装 NVIDIA Container Toolkit,再启动 compose,含 llama.cpp 与实时服务器。
docker compose up
如何确认成功
终端连接麦克风后,对其说话并停顿,能听到语音回复即成功;Ctrl+C 停止。Docker 方式会监听 8080 与 8765 端口。
常见问题
Q:首次运行为什么很慢?
A:第一次运行需要下载并预热模型,完成后再连接麦克风,属正常现象,之后启动会快很多。
Q:回复被扬声器回声打断怎么办?
A:在启动命令后加上 --local_audio_block_mic_during_playback,播放时会暂停录音,但也就无法中途打断助手。
Q:Linux 上 Qwen3-TTS 装不上或报错?
A:默认 Linux 版 wheel 面向 CUDA 12.8 与 glibc 2.39(Ubuntu 24.04),系统不一致需查看 README 的 CUDA 安装说明。
Q:必须用 API Key 吗?
A:不必须。全本地配置无需联网对话;只有使用托管 LLM 时才需要 API Key,且对话期间需保持联网。
注意事项
- 每个运行 speech-to-speech 的终端都要先激活同一个虚拟环境。
- 建议使用耳机,避免扬声器声音被麦克风拾取造成反馈。
- 首次模型下载需要联网,全本地配置之后可离线使用。
- 使用托管 LLM 时,转写文本、指令和对话历史会发送给服务商,麦克风音频仍留在本地。
核心亮点
- 完全本地运行,保护隐私且无网络延迟
- 集成多种开源模型,支持自定义语音代理
- API 简洁,快速搭建端到端语音对话流程
不足之处
- 本地运行对硬件性能要求较高
- 文档/社区待观察
适用场景
- 智能家居语音控制
- 车载离线语音助手
- 隐私敏感的语音交互应用
替代项目
Vosk、Coqui TTS、Whisper.cpp
同类项目推荐
oh-my-opencode-slim
开源
多模型自动分工,复杂任务又快又省
Lean, fine tuned Opencode multi agent suite · Mix any models · Auto delegate tasks
sdd-riper
开源
让 AI 写代码,你在关键节点把关,轻松掌控全局
Lightweight AI Agent Harness for agentic coding: let strong models explore while hum···
concord-mcp
开源
给AI编码代理装上统一协作中枢,告别工具碎片化
Live messaging for coding agents
nono
开源
秒级启动 AI 智能体沙箱,零配置隔离运行,安全又高效
agent runtime security - zero trust, zero setup, zero latency agent sandboxing
Unity-Skills
开源
把 AI 变成 Unity 开发助手,一键搞定场景和代码
AI automation skills specifically designed for Unity
Agent-2
开源
一句提示词,自动写码跑命令干安全活
An autonomous AI agentic harness built to code anything, automate terminals, perform···
docker-agent
开源
用 Docker 把 AI 智能体打包成镜像,随处运行
AI Agent Builder and Runtime by Docker Engineering
kody
开源
把 AI 助手的记忆和钥匙随身带,跨平台无缝切换
The cloud for your team's agents. Save your agent memory, credentials, code, and aut···
carbon
开源
15章手把手从零搭编码智能体,每章都通过测试
Build a coding agent from scratch, one harness primitive at a time. 15 chapters (ch-···