RCLI 是对话助手领域的开源项目,由 RunanywhereAI 开发,是 2026 年新上线的项目。
在全站 13,014 个收录项目中,它的 GitHub 星标数(1,556)位列前 30%,在对话助手分类中处于中上游。
项目目前处于活跃维护状态,最近一次代码更新于 2026-09-23。MIT许可证,本地部署,完全免费。
它主要面向的使用场景是:隐私敏感场景下,用语音快速查询本地笔记或文档。同类可对比的替代方案包括 Whisper.cpp、Ollama、LocalAI。

对着 Mac 说话,离线查文档,隐私不落地
RCLI 是一个运行在 Mac 上的本地语音 AI 助手,完全离线运行,无需云端服务。它基于 C++ 构建,利用 Apple Silicon 的 Metal 加速能力,整合了本地语音识别(如 Parakeet)、文本转语音(Kokoro TTS 等)和本地大语言模型(如 Qwen3),并通过 RAG 技术让用户能够直接查询本地文档。用户可以通过语音与 Mac 对话,获取信息或执行操作,所有数据处理都在设备端完成,保障隐私安全。核心能力包括语音交互、文档问答、本地推理和离线运行,适合对数据隐私敏感或需要在无网络环境下工作的用户。
1安装(macOS/Linux)
在终端执行官方安装脚本,自动下载并安装 wally 命令行工具,无需手动配置环境。
curl -fsSL https://raw.githubusercontent.com/RunanywhereAI/wally/main/install.sh | sh2安装(Windows)
Windows 用户在 PowerShell 中执行安装脚本,效果与 macOS/Linux 一致。
irm https://raw.githubusercontent.com/RunanywhereAI/wally/main/install.ps1 | iex3查看可用模型
列出所有可下载的模型,确认要用的模型名后再下载;也可直接用 Hugging Face 的 GGUF 地址。
wally models list --all4下载本地模型
把模型拉到本机,之后推理全部在本地完成,不需要账号或密钥,数据不出设备。
wally pull qwen35本地对话
进入交互式聊天;若只想问一句就退出,可在模型名后直接跟问题。
wally run qwen36启动本地 API 服务
在 macOS/Linux 上以 OpenAI 兼容接口暴露模型,默认监听 8080 端口,供其他程序调用。
wally serve qwen37登录并使用托管模型
终端会显示一个验证码,在浏览器中确认即可完成登录,无需粘贴 API Key;之后可在编码代理中调用云端模型。
wally login
wally opencode --cloud -m glm-5.3-flash| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
模型名 | 是 | pull/run/serve 时指定的模型标识 | qwen3 |
云模型名 | 否 | 使用托管模型时通过 -m 参数指定 | glm-5.3-flash |
API 端口 | 否 | wally serve 提供的 OpenAI 兼容接口端口 | 8080 |
执行 wally run qwen3 "Hello" 能返回一条回答即安装成功;启动 serve 后可访问本地 8080 端口的 OpenAI 兼容接口。
Q:使用本地模型需要账号或 API Key 吗?
A:不需要。README 明确说明本地运行模型无需账号和密钥,数据不会离开本机;只有使用托管模型时才需 wally login 登录。
Q:可以用自己下载的模型吗?
A:可以。任何 Hugging Face 上的 GGUF 模型都能直接 pull,例如 wally pull hf.co/Qwen/Qwen3-0.6B-GGUF/Qwen3-0.6B-Q8_0.gguf。
Q:支持哪些系统?
A:安装脚本覆盖 macOS(Apple Silicon)、Linux(x86-64)和 Windows;其中 wally serve 目前标注支持 macOS 与 Linux。
Q:托管模型有哪些?
A:README 列出的是 glm-5.3-flash、qwen3.8-27b 和 gemma-4,费用从你自己的额度中扣除,可用 wally usage 查看余额。
Whisper.cpp、Ollama、LocalAI
RCLI 是对话助手领域的开源项目,由 RunanywhereAI 开发,是 2026 年新上线的项目。
在全站 13,014 个收录项目中,它的 GitHub 星标数(1,556)位列前 30%,在对话助手分类中处于中上游。
项目目前处于活跃维护状态,最近一次代码更新于 2026-09-23。MIT许可证,本地部署,完全免费。
它主要面向的使用场景是:隐私敏感场景下,用语音快速查询本地笔记或文档。同类可对比的替代方案包括 Whisper.cpp、Ollama、LocalAI。
上一篇:alan-sdk-android
下一篇:vui
open-webui
开源
给本地模型配个漂亮聊天室,全家都能用
User-friendly AI Interface (Supports Ollama, OpenAI API, ...)
prompts.chat
开源
海量好提示词,抄了就能让 AI 更听话
f.k.a. Awesome ChatGPT Prompts. Share, discover, and collect prompts from the commun···
elia
开源
终端里用键盘快速聊 AI,多模型切换不打断思路
A snappy, keyboard-centric terminal user interface for interacting with large langua···
NextChat
开源
一个界面聊遍所有主流AI模型,支持全平台部署,轻快又私密。
✨ Zero-config AI chat assistant. No API key needed — sign up and instantly chat wi···