vui

本地实时语音助手,9倍速响应,支持打断和克隆

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 音频音乐 🍴 复刻 85 👀 关注 5
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 776
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache 2.0 许可证,可免费自行部署使用。

项目预览

vui 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类音频音乐
开发团队fluxions-ai
定价模式🏷️完全免费
价格说明开源项目,Apache 2.0 许可证,可免费自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型conversational-ai,conversational-speech,cpu-inference,edge-ai,lightweight,multi-speaker,on-device,openai-realtime,pytorch,realtime-api,realtime-tts,speech-synthesis,streaming,text-to-speech,tts,voice-ai,voice-assistant,voice-cloning,webrtc,whisper
GitHub 星标★ 776
上线时间2025-06-05 00:00:00
代码更新2026-10-10
仓库体积12.5 MB
本站数据更新2026-11-10
维护状态维护中
收录时间2026-08-09
浏览次数6

项目介绍

Vui 是一个实时语音助手框架,基于 WebRTC 流式传输,集成了 faster-whisper 语音识别、本地 LLM(如 Qwen)和 Vui Nano 300M 轻量级 TTS 模型。它兼容 OpenAI Realtime API,支持语音克隆和打断(barge-in),在 4090 显卡上可实现约 9 倍实时推理速度。项目旨在提供端到端、可本地部署的对话式 AI 解决方案,解决传统语音助手延迟高、依赖云端的问题。核心能力包括:低延迟流式处理、多说话人支持、边缘设备部署(Edge AI),以及 Apache 2.0 开源许可。适合开发者构建自定义语音助手、智能硬件交互或实时翻译等应用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 776

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:进阶 约 40 分钟 部署方式:Docker 部署 4 步

环境要求

  • NVIDIA GPU(可选)
  • Docker
  • ffmpeg

安装与启动步骤

  1. 1装引擎

    流式语音助手,含 TTS 与 ASR。

    pip install vui-tts
  2. 2要完整对话就装 server 组

    带 WebRTC 与 demo 界面。

    pip install "vui-tts[server]"
  3. 3装 ffmpeg

    音频编解码依赖它。

    sudo apt install ffmpeg
  4. 4compose 起全栈

    GPU 环境先装 nvidia-container-toolkit。

    sudo apt install -y nvidia-container-toolkit
    docker compose up -d

如何确认成功

浏览器打开 8080 能说话,几秒内收到语音回复。

注意事项

  • 流式链路的关键是首包延迟,看 docker logs -f vui-stream。
  • 想让本地模型接进来用 --profile ollama,再 pull 一个模型。
  • down -v 会连模型缓存一起删,慎用。
  • ARM Mac 走 MLX,不需要 CUDA。

核心亮点

  • 端到端本地部署,数据隐私安全
  • 兼容 OpenAI Realtime API,迁移成本低
  • 支持语音克隆和打断,交互自然

不足之处

  • 早期项目,文档和社区生态待完善
  • 依赖特定硬件(如 4090)才能发挥性能

适用场景

  • 智能家居语音控制
  • 车载语音助手
  • 实时语音翻译或会议记录

替代项目

OpenAI Realtime API、Whisper + TTS 组合方案、Coqui TTS

上一篇:RCLI

下一篇:AssistentePessoal

同类项目推荐

KoboldAI-Client 开源

本地跑模型,边聊边写小说和角色扮演

For GGUF support, see KoboldCPP: https://github.com/LostRuins/koboldcpp

★ 3961 2026-10-16
GPTInterviewer 开源

上传简历和职位描述,AI 模拟面试官陪你练。

GPT Interviewer - Practice interview with AI interviewer based on job descriptions a···

★ 264 2026-08-09
botfuel-dialog 开源

用 Node.js 快速搭建多轮对话机器人,管理流程和意图。

Botfuel SDK to build highly conversational chatbots

★ 99 2026-08-09
WristAssist 开源

手腕上的 AI 助手,抬手就能聊和画

A powerful ChatGPT and DALL-E app for all WearOS devices

★ 124 2026-08-09
llmcord 开源

把 Discord 变成你的 AI 聊天前端,一个指令切换所有大模型

Make Discord your LLM frontend

★ 839 2026-08-09
RenAI-Chat 开源

用视觉小说界面,让AI聊天更有戏

VN Like Interface for Chatbots

★ 73 2026-08-09
Mental-health-Chatbot 开源

多语言心理陪伴,打破语言壁垒,随时提供情感支持。

This is a MULTILINGUAL bot designed to provide emotional support and assistance to ···

★ 214 2026-08-09
Chiku 开源

一个工具搞定聊天、画图、语音,让 AI 更贴心

A modern AI chatbot with chat, image generation, and text-to-speech features, design···

★ 108 2026-08-09
pro-chat 开源

用 React 组件快速拼装 LLM 聊天界面,省时省力

Components Library for Quickly Building LLM Chat Interfaces.

★ 894 2026-08-09