parlor

在苹果电脑上本地跑实时多模态 AI,对话零延迟不联网

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 音频音乐 🍴 复刻 281 🐛 待处理 1 👀 关注 20
GitHub ↗
GitHub 星标 ★ 2113
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,本地部署,完全免费。

项目预览

parlor 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类音频音乐
开发团队fikrikarim
定价模式🏷️完全免费
价格说明开源项目,本地部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型apple-silicon,gemma,kokoro,litert-lm,local-llm,mlx,multimodal,on-device-ai,python,real-time,speech-recognition,text-to-speech,voice-assistant
GitHub 星标★ 2113
上线时间2026-04-05 00:00:00
代码更新2026-08-03
仓库体积672 KB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数5

项目介绍

parlor 是一个运行在 Apple 芯片设备上的实时多模态 AI 助手,功能类似 GPT-Live,但完全本地化。它解决了云端 AI 助手延迟高、隐私泄露和依赖网络的问题,通过 MLX 框架和 LiteRT-LM 实现本地大模型推理,支持语音识别、文本转语音和视觉输入,可进行自然的实时对话。核心能力包括:本地运行 Gemma 等大模型、低延迟语音交互、多模态理解(文本、语音、图像)、以及通过 Kokoro 实现高质量语音合成。项目用 Python 编写,专为 Apple Silicon 优化,适合开发者构建隐私优先的 AI 助手或实验性应用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2113

使用教程

难度:入门 约 10 分钟 部署方式:本地安装 6 步

环境要求

  • Apple 芯片(Apple Silicon)Mac 设备,项目针对 MLX 优化
  • 已安装 Homebrew(用于安装 llama.cpp)
  • 能访问 GitHub 与模型下载源,首次运行需下载约 5.7 GB 模型
  • 磁盘预留数 GB 空间存放 Gemma 与 TTS 模型

安装与启动步骤

  1. 1克隆项目仓库

    把 parlor 源码拉到本地并进入项目目录,后续命令都在该目录执行。

    git clone https://github.com/fikrikarim/parlor.git
    cd parlor
  2. 2安装 uv 包管理器

    README 指定用 uv 管理依赖,官方安装脚本一条命令完成。已装可跳过。

    curl -LsSf https://astral.sh/uv/install.sh | sh
  3. 3安装 llama.cpp

    通过 Homebrew 安装 llama.cpp,这是本地推理所需的运行时依赖。

    brew install llama.cpp
  4. 4同步项目依赖

    在项目根目录执行 uv sync,按锁定配置创建虚拟环境并装齐依赖。

    uv sync
  5. 5启动 parlor 服务

    运行主程序,首次启动会自动下载模型,需等待较长时间,请保持网络畅通。

    uv run parlor
  6. 6浏览器授权使用

    打开本地地址,允许摄像头和麦克风权限,即可开始实时语音对话。

关键配置

配置项必填说明示例
MODEL否Gemma 4 规格:e2b 最快、e4b 默认、12b 需约 8GB 内存e4b
PORT否服务监听端口,默认 80008000
REASONER_API_KEY否启用后台研究的 API Key,不设置则关闭该功能sk-xxxxxxxx
REASONER_BASE_URL否任意 OpenAI 兼容的对话接口地址https://openrouter.ai/api/v1
REASONER_MODEL否后台研究调用的模型名openai/gpt-5.6-luna

如何确认成功

浏览器访问 http://localhost:8000,授权摄像头和麦克风后能正常对话即启动成功。

常见问题

Q:首次运行很久没反应是卡住了吗?

A:不是。首次运行会自动下载 Gemma 4 E4B QAT 及其多模态投影器与 TTS 模型,合计约 5.7 GB,视网速需等待一段时间。

Q:必须联网才能使用吗?

A:模型下载和后台研究功能需要网络;推理本身在本地运行。不设置 REASONER_API_KEY 时后台研究默认关闭。

Q:如何换更小或更大的模型?

A:设置环境变量 MODEL:e2b 最快,e4b 默认且答案更好(延迟约为 e2b 的 1.8 倍),12b 需要约 8GB 内存。

Q:配置项写在哪里?

A:可写在 shell 环境变量里,或放在仓库根目录的 .env 文件中;完整配置见 docs/configuration.md。

注意事项

  • 项目处于研究预览阶段,是早期实验,可能存在粗糙之处和 bug。
  • 仅支持 Apple 芯片 Mac,其他平台无法按 README 方式运行。
  • 命令需在克隆后的 parlor 目录内执行。
  • 模型自动下载需预留磁盘空间与稳定网络。

核心亮点

  • 完全本地推理,数据不出设备,隐私安全有保障
  • 针对 Apple Silicon 深度优化,利用 MLX 加速,性能出色
  • 集成语音识别与合成,实现端到端实时语音对话体验

不足之处

  • 仅支持 Apple Silicon,硬件门槛高,普通 PC 无法使用
  • 文档/社区待观察

适用场景

  • 隐私敏感的本地语音助手开发
  • 离线环境下的多模态 AI 交互实验
  • Apple 生态内实时对话式 AI 应用原型

替代项目

Ollama、llama.cpp、Whisper.cpp

上一篇:qwen-audio-agent

下一篇:ai-skills

同类项目推荐

data-mcp 开源

让 AI 代理轻松接入量化金融数据,开箱即用

The knowledge harness for AI‑native finance — MCP server for LLMQuant Data.

★ 88 2026-08-09
skills 开源

让 AI 智能体直接生成数字人视频,一句话搞定视频制作

HeyGen AI agent skills — avatar creation and video production via the v3 Video Agen···

★ 542 2026-08-09
liliumai 开源

让 AI 直接操控你的电脑和聊天工具

Lilium AI: The ultimate personal AI agent framework for autonomous computer control.···

★ 93 2026-08-09
synthetic-user-research 开源

用AI虚拟用户做调研,几分钟拿到产品反馈

Example Notebook for Synthetic User Research with Persona Prompting and Autonomous A···

★ 52 2026-08-09
YAWNING-TITAN 开源

在虚拟网络沙盒中训练AI攻防,低成本验证自主防御算法。

YAWNING TITAN is an abstract, graph based cyber-security simulation environment that···

★ 68 2026-08-09
manor-ai 开源

自托管 AI 工作台,自带 Key 跑流程,关键步骤人工把关

Source-available, self-hosted AI agent workspace for small businesses and lean teams···

★ 158 2026-09-12
samantha-os1-openai-realtime 开源

用 OpenAI Realtime API 快速搭建能实时语音对话的 AI 助手

Samantha OS1 is a conversational AI assistant powered by the Realtime API from OpenA···

★ 203 2026-08-09
agenticos 开源

把 AI 同事装进自家服务器,能干活、可审批、有账本

Open-source, self-hosted AI agent platform for your company's AI teammates. Build, r···

★ 247 2026-10-21
jargo 开源

用 Go 快速构建 WebRTC 原生实时语音 AI 应用

Conversational-AI framework for Go.

★ 109 2026-08-09