parlor

在苹果电脑上本地跑实时多模态 AI,对话零延迟不联网

parlor 是一个运行在 Apple 芯片设备上的实时多模态 AI 助手,功能类似 GPT-Live,但完全本地化。它解决了云端 AI 助手延迟高、隐私泄露和依赖网络的问题,通过 MLX 框架和 LiteRT-LM 实现本地大模型推理,支持语音识别、文本转语音和视觉输入,可进行自然的实时对话。核心能力包括:本地运行 Gemma 等大模型、低延迟语音交互、多模态理解(文本、语音、图像)、以及通过 Kokoro 实现高质量语音合成。项目用 Python 编写,专为 Apple Silicon 优化,适合开发者构建隐私优先的 AI 助手或实验性应用。

开源 free 音频音乐
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 2068
维护状态 维护中
是否开源 是
定价模式 free

项目数据

分类音频音乐
开发团队fikrikarim
所属国家
官网地址
定价模式free
价格说明开源项目,本地部署,完全免费。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型apple-silicon,gemma,kokoro,litert-lm,local-llm,mlx,multimodal,on-device-ai,python,real-time,speech-recognition,text-to-speech,voice-assistant
GitHub 星标★ 2068
30天Star增速
HF 下载量
上线时间2026-04-05 00:00:00
最近更新2026-09-21 00:00:00
维护状态维护中
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数3

使用教程

难度:入门 约 10 分钟 部署方式:本地安装 6 步

环境要求

  • Apple 芯片(Apple Silicon)Mac 设备,项目针对 MLX 优化
  • 已安装 Homebrew(用于安装 llama.cpp)
  • 能访问 GitHub 与模型下载源,首次运行需下载约 5.7 GB 模型
  • 磁盘预留数 GB 空间存放 Gemma 与 TTS 模型

安装与启动步骤

  1. 1克隆项目仓库

    把 parlor 源码拉到本地并进入项目目录,后续命令都在该目录执行。

    git clone https://github.com/fikrikarim/parlor.git
    cd parlor
  2. 2安装 uv 包管理器

    README 指定用 uv 管理依赖,官方安装脚本一条命令完成。已装可跳过。

    curl -LsSf https://astral.sh/uv/install.sh | sh
  3. 3安装 llama.cpp

    通过 Homebrew 安装 llama.cpp,这是本地推理所需的运行时依赖。

    brew install llama.cpp
  4. 4同步项目依赖

    在项目根目录执行 uv sync,按锁定配置创建虚拟环境并装齐依赖。

    uv sync
  5. 5启动 parlor 服务

    运行主程序,首次启动会自动下载模型,需等待较长时间,请保持网络畅通。

    uv run parlor
  6. 6浏览器授权使用

    打开本地地址,允许摄像头和麦克风权限,即可开始实时语音对话。

关键配置

配置项必填说明示例
MODEL否Gemma 4 规格:e2b 最快、e4b 默认、12b 需约 8GB 内存e4b
PORT否服务监听端口,默认 80008000
REASONER_API_KEY否启用后台研究的 API Key,不设置则关闭该功能sk-xxxxxxxx
REASONER_BASE_URL否任意 OpenAI 兼容的对话接口地址https://openrouter.ai/api/v1
REASONER_MODEL否后台研究调用的模型名openai/gpt-5.6-luna

如何确认成功

浏览器访问 http://localhost:8000,授权摄像头和麦克风后能正常对话即启动成功。

常见问题

Q:首次运行很久没反应是卡住了吗?

A:不是。首次运行会自动下载 Gemma 4 E4B QAT 及其多模态投影器与 TTS 模型,合计约 5.7 GB,视网速需等待一段时间。

Q:必须联网才能使用吗?

A:模型下载和后台研究功能需要网络;推理本身在本地运行。不设置 REASONER_API_KEY 时后台研究默认关闭。

Q:如何换更小或更大的模型?

A:设置环境变量 MODEL:e2b 最快,e4b 默认且答案更好(延迟约为 e2b 的 1.8 倍),12b 需要约 8GB 内存。

Q:配置项写在哪里?

A:可写在 shell 环境变量里,或放在仓库根目录的 .env 文件中;完整配置见 docs/configuration.md。

注意事项

  • 项目处于研究预览阶段,是早期实验,可能存在粗糙之处和 bug。
  • 仅支持 Apple 芯片 Mac,其他平台无法按 README 方式运行。
  • 命令需在克隆后的 parlor 目录内执行。
  • 模型自动下载需预留磁盘空间与稳定网络。

核心亮点

  • 完全本地推理,数据不出设备,隐私安全有保障
  • 针对 Apple Silicon 深度优化,利用 MLX 加速,性能出色
  • 集成语音识别与合成,实现端到端实时语音对话体验

不足之处

  • 仅支持 Apple Silicon,硬件门槛高,普通 PC 无法使用
  • 文档/社区待观察

适用场景

  • 隐私敏感的本地语音助手开发
  • 离线环境下的多模态 AI 交互实验
  • Apple 生态内实时对话式 AI 应用原型

替代项目

Ollama、llama.cpp、Whisper.cpp

项目介绍

parlor 是智能体领域的开源项目,由 fikrikarim 开发,是 2026 年新上线的项目。

在全站 13,090 个收录项目中,它的 GitHub 星标数(2,068)位列前 30%,在智能体分类中处于中上游。

近 42 天,它的 GitHub 星标从 1,975 增加到 2,068,净增 93。

项目仍在小幅维护中,最近一次代码更新于 2026-09-21。本地部署,完全免费。

它主要面向的使用场景是:隐私敏感的本地语音助手开发。同类可对比的替代方案包括 Ollama、llama.cpp、Whisper.cpp。

上一篇:qwen-audio-agent

下一篇:ai-skills

同类项目推荐

xinchao-dynamic-mind 开源

给 AI 装上疲惫和欲望,让交互更真实

独立、可自托管的 AI 动态心智状态引擎:驱动力、念头池、疲惫、睡眠与意图。

★ 199 2026-08-09
deepseek-harness 开源

把 AI 能力拆成乐高积木,拼出你的专属智能体。

DeepSeek Harness: Everything is a Plugin.

★ 233327 2026-08-15
AutoGPT 开源

开箱即用的 AI 员工,交代任务就自己干完

AutoGPT is the vision of accessible AI for everyone, to use and to build on. Our mis···

★ 187492 2026-08-09
EvoAgentX 开源

让 AI 智能体自己迭代变强,越用越聪明

EvoAgentX: Building a Self-Evolving Ecosystem of AI Agents

★ 3351 2026-09-12