项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1570
使用教程
环境要求
- macOS(Apple Silicon)或 Linux(x86-64),Windows 也可
- 终端可联网执行安装脚本(curl 或 PowerShell)
- 本地运行模型需下载模型文件,请预留足够磁盘空间
安装与启动步骤
-
1安装(macOS/Linux)
在终端执行官方安装脚本,自动下载并安装 wally 命令行工具,无需手动配置环境。
curl -fsSL https://raw.githubusercontent.com/RunanywhereAI/wally/main/install.sh | sh -
2安装(Windows)
Windows 用户在 PowerShell 中执行安装脚本,效果与 macOS/Linux 一致。
irm https://raw.githubusercontent.com/RunanywhereAI/wally/main/install.ps1 | iex -
3查看可用模型
列出所有可下载的模型,确认要用的模型名后再下载;也可直接用 Hugging Face 的 GGUF 地址。
wally models list --all -
4下载本地模型
把模型拉到本机,之后推理全部在本地完成,不需要账号或密钥,数据不出设备。
wally pull qwen3 -
5本地对话
进入交互式聊天;若只想问一句就退出,可在模型名后直接跟问题。
wally run qwen3 -
6启动本地 API 服务
在 macOS/Linux 上以 OpenAI 兼容接口暴露模型,默认监听 8080 端口,供其他程序调用。
wally serve qwen3 -
7登录并使用托管模型
终端会显示一个验证码,在浏览器中确认即可完成登录,无需粘贴 API Key;之后可在编码代理中调用云端模型。
wally login wally opencode --cloud -m glm-5.3-flash
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
模型名 | 是 | pull/run/serve 时指定的模型标识 | qwen3 |
云模型名 | 否 | 使用托管模型时通过 -m 参数指定 | glm-5.3-flash |
API 端口 | 否 | wally serve 提供的 OpenAI 兼容接口端口 | 8080 |
如何确认成功
执行 wally run qwen3 "Hello" 能返回一条回答即安装成功;启动 serve 后可访问本地 8080 端口的 OpenAI 兼容接口。
常见问题
Q:使用本地模型需要账号或 API Key 吗?
A:不需要。README 明确说明本地运行模型无需账号和密钥,数据不会离开本机;只有使用托管模型时才需 wally login 登录。
Q:可以用自己下载的模型吗?
A:可以。任何 Hugging Face 上的 GGUF 模型都能直接 pull,例如 wally pull hf.co/Qwen/Qwen3-0.6B-GGUF/Qwen3-0.6B-Q8_0.gguf。
Q:支持哪些系统?
A:安装脚本覆盖 macOS(Apple Silicon)、Linux(x86-64)和 Windows;其中 wally serve 目前标注支持 macOS 与 Linux。
Q:托管模型有哪些?
A:README 列出的是 glm-5.3-flash、qwen3.8-27b 和 gemma-4,费用从你自己的额度中扣除,可用 wally usage 查看余额。
注意事项
- README 中该工具实际名称为 wally,与项目信息中的 RCLI 名称不一致,命令一律以 wally 为准。
- 本地模型推理完全离线,适合隐私敏感场景;托管模型运行在 RunAnywhere Cloud 并按额度计费。
- 步骤中的端口 8080 来自 README 对 wally serve 的说明,如被占用请自行调整。
核心亮点
- 完全离线运行,数据不出设备,隐私保护强
- 深度优化 Apple Silicon,利用 Metal 加速,响应流畅
- 集成语音识别、TTS 和 LLM,开箱即用的完整语音交互方案
不足之处
- 仅支持 macOS 和 Apple Silicon,平台局限性大
- 文档/社区待观察
适用场景
- 隐私敏感场景下,用语音快速查询本地笔记或文档
- 无网络环境(如飞机、远程办公)中,通过语音控制 Mac 或获取信息
- 开发者和极客用户,在本地搭建完全自主的语音 AI 助手
替代项目
Whisper.cpp、Ollama、LocalAI
上一篇:alan-sdk-android
下一篇:vui
同类项目推荐
python-wechaty-getting-started
开源
五分钟跑通微信机器人,Python 入门模板开箱即用
Python Wechaty Starter Project Template that Works Out-of-the-Box
OpenAssistantGPT
开源
拖拽式搭建 OpenAI 聊天机器人,嵌入网站即用
A Community Open-Source Saas for Crafting/Building/Creating Chatbots with OpenAI's A···
Sync
开源
把直播弹幕搬进 osu!,边打歌边互动
Sync your Live Channel's Danmaku or Comment to osu! IRC
livehelperchat
开源
自建多渠道在线客服,支持音视频和机器人
Live Helper Chat - live support for your website. Featuring web and mobile apps, Voi···
chatgpt-wework-robot
开源
零代码一键部署,让企业微信秒变 ChatGPT 入口
零代码、一键部署chatgpt到企业微信,无须VPN,速度快
chatbot
开源
输入电影问题,基于知识图谱和机器学习秒回答案
知识图谱 neo4j 答案查找 + 机器学习 分类模型 问题分析 = 电影知识库问答机器人
ellama
开源
在 Emacs 里直接和本地或云端大模型对话改代码
Work with local and cloud LLMs from Emacs.
GPTMessage
开源
用 SwiftUI 快速搭建 ChatGPT 图像生成与理解应用
A SwiftUI app demonstrating how ChatGPT interacts with DALL·E and HuggingFace model···
AingDesk
开源
一站式管理模型、知识库和智能体,快速搭建个人 AI 助手
AingDesk是一款简单好用的AI助手,支持知识库、模型API、分享、联网搜索、智能体,它还在飞···
