RCLI

对着 Mac 说话,离线查文档,隐私不落地

RCLI 是一个运行在 Mac 上的本地语音 AI 助手,完全离线运行,无需云端服务。它基于 C++ 构建,利用 Apple Silicon 的 Metal 加速能力,整合了本地语音识别(如 Parakeet)、文本转语音(Kokoro TTS 等)和本地大语言模型(如 Qwen3),并通过 RAG 技术让用户能够直接查询本地文档。用户可以通过语音与 Mac 对话,获取信息或执行操作,所有数据处理都在设备端完成,保障隐私安全。核心能力包括语音交互、文档问答、本地推理和离线运行,适合对数据隐私敏感或需要在无网络环境下工作的用户。

开源 free 音频音乐
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 1556
维护状态 活跃
是否开源 是
定价模式 free

项目数据

分类音频音乐
开发团队RunanywhereAI
所属国家
定价模式free
价格说明开源项目,MIT许可证,本地部署,完全免费。
访问状态
是否开源是
开源协议MIT
主要语言C++
技术栈/模型deepseek,frontier-ai,glm-5-3,llms,local-ai-infrastructure,qwen
GitHub 星标★ 1556
30天Star增速
HF 下载量
上线时间2026-03-04 00:00:00
最近更新2026-09-23 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数6

使用教程

难度:入门 约 10 分钟 部署方式:命令行工具 7 步

环境要求

  • macOS(Apple Silicon)或 Linux(x86-64),Windows 也可
  • 终端可联网执行安装脚本(curl 或 PowerShell)
  • 本地运行模型需下载模型文件,请预留足够磁盘空间

安装与启动步骤

  1. 1安装(macOS/Linux)

    在终端执行官方安装脚本,自动下载并安装 wally 命令行工具,无需手动配置环境。

    curl -fsSL https://raw.githubusercontent.com/RunanywhereAI/wally/main/install.sh | sh
  2. 2安装(Windows)

    Windows 用户在 PowerShell 中执行安装脚本,效果与 macOS/Linux 一致。

    irm https://raw.githubusercontent.com/RunanywhereAI/wally/main/install.ps1 | iex
  3. 3查看可用模型

    列出所有可下载的模型,确认要用的模型名后再下载;也可直接用 Hugging Face 的 GGUF 地址。

    wally models list --all
  4. 4下载本地模型

    把模型拉到本机,之后推理全部在本地完成,不需要账号或密钥,数据不出设备。

    wally pull qwen3
  5. 5本地对话

    进入交互式聊天;若只想问一句就退出,可在模型名后直接跟问题。

    wally run qwen3
  6. 6启动本地 API 服务

    在 macOS/Linux 上以 OpenAI 兼容接口暴露模型,默认监听 8080 端口,供其他程序调用。

    wally serve qwen3
  7. 7登录并使用托管模型

    终端会显示一个验证码,在浏览器中确认即可完成登录,无需粘贴 API Key;之后可在编码代理中调用云端模型。

    wally login
    wally opencode --cloud -m glm-5.3-flash

关键配置

配置项必填说明示例
模型名是pull/run/serve 时指定的模型标识qwen3
云模型名否使用托管模型时通过 -m 参数指定glm-5.3-flash
API 端口否wally serve 提供的 OpenAI 兼容接口端口8080

如何确认成功

执行 wally run qwen3 "Hello" 能返回一条回答即安装成功;启动 serve 后可访问本地 8080 端口的 OpenAI 兼容接口。

常见问题

Q:使用本地模型需要账号或 API Key 吗?

A:不需要。README 明确说明本地运行模型无需账号和密钥,数据不会离开本机;只有使用托管模型时才需 wally login 登录。

Q:可以用自己下载的模型吗?

A:可以。任何 Hugging Face 上的 GGUF 模型都能直接 pull,例如 wally pull hf.co/Qwen/Qwen3-0.6B-GGUF/Qwen3-0.6B-Q8_0.gguf。

Q:支持哪些系统?

A:安装脚本覆盖 macOS(Apple Silicon)、Linux(x86-64)和 Windows;其中 wally serve 目前标注支持 macOS 与 Linux。

Q:托管模型有哪些?

A:README 列出的是 glm-5.3-flash、qwen3.8-27b 和 gemma-4,费用从你自己的额度中扣除,可用 wally usage 查看余额。

注意事项

  • README 中该工具实际名称为 wally,与项目信息中的 RCLI 名称不一致,命令一律以 wally 为准。
  • 本地模型推理完全离线,适合隐私敏感场景;托管模型运行在 RunAnywhere Cloud 并按额度计费。
  • 步骤中的端口 8080 来自 README 对 wally serve 的说明,如被占用请自行调整。

核心亮点

  • 完全离线运行,数据不出设备,隐私保护强
  • 深度优化 Apple Silicon,利用 Metal 加速,响应流畅
  • 集成语音识别、TTS 和 LLM,开箱即用的完整语音交互方案

不足之处

  • 仅支持 macOS 和 Apple Silicon,平台局限性大
  • 文档/社区待观察

适用场景

  • 隐私敏感场景下,用语音快速查询本地笔记或文档
  • 无网络环境(如飞机、远程办公)中,通过语音控制 Mac 或获取信息
  • 开发者和极客用户,在本地搭建完全自主的语音 AI 助手

替代项目

Whisper.cpp、Ollama、LocalAI

项目介绍

RCLI 是对话助手领域的开源项目,由 RunanywhereAI 开发,是 2026 年新上线的项目。

在全站 13,014 个收录项目中,它的 GitHub 星标数(1,556)位列前 30%,在对话助手分类中处于中上游。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-23。MIT许可证,本地部署,完全免费。

它主要面向的使用场景是:隐私敏感场景下,用语音快速查询本地笔记或文档。同类可对比的替代方案包括 Whisper.cpp、Ollama、LocalAI。

上一篇:alan-sdk-android

下一篇:vui

同类项目推荐

open-webui 开源

给本地模型配个漂亮聊天室,全家都能用

User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

★ 152821 2026-08-09
prompts.chat 开源

海量好提示词,抄了就能让 AI 更听话

f.k.a. Awesome ChatGPT Prompts. Share, discover, and collect prompts from the commun···

★ 170999 2026-08-09
elia 开源

终端里用键盘快速聊 AI,多模型切换不打断思路

A snappy, keyboard-centric terminal user interface for interacting with large langua···

★ 2479 2026-08-09
NextChat 开源

一个界面聊遍所有主流AI模型,支持全平台部署,轻快又私密。

✨ Zero-config AI chat assistant. No API key needed — sign up and instantly chat wi···

★ 88802 2026-08-09