Llama-macOS

Mac 上双击就能跑的本地大模型聊天应用

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署对话助手 🍴 复刻 139 🐛 待处理 14 👀 关注 16

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 1728

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源免费，基于llama.cpp本地运行

项目预览

Llama-macOS 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类对话助手

开发团队ggml-org

官网地址https://llama.app

GitHubhttps://github.com/ggml-org/Llama-macOS

定价模式🏷️完全免费

价格说明开源免费，基于llama.cpp本地运行

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议MIT

主要语言Swift

技术栈/模型ai,llama-cpp,llms,macos,swift

GitHub 星标★ 1728

上线时间2025-06-30 00:00:00

代码更新2026-11-03

仓库体积2.6 MB

本站数据更新2026-11-04

维护状态活跃

收录时间2026-09-16

浏览次数2

项目介绍

Llama-macOS 是一个用 Swift 编写的 macOS 原生应用，为本地大语言模型提供一个舒适易用的运行环境。它基于 llama.cpp 推理后端，让用户在 Mac 上直接加载并运行 GGUF 格式的模型，无需依赖云端服务，数据全程留在本地。核心能力包括模型文件的导入与管理、多轮对话界面、流式输出、参数调节（温度、上下文长度等），以及针对 Apple Silicon 的硬件加速支持。它解决的是普通用户想在 Mac 上零门槛体验本地 LLM 的问题：不用敲命令行、不用配置 Python 环境，下载模型后即可开聊。界面遵循 macOS 原生设计语言，轻量且启动快，适合注重隐私、希望离线使用 AI 助手的开发者与普通用户。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 1728

技术标签

ai llama-cpp llms macos swift

使用教程

难度：入门约 5 分钟部署方式：本地安装 6 步

环境要求

macOS 系统的 Mac 电脑（Apple Silicon 可获得硬件加速）
已安装 Homebrew（使用 brew 安装方式时）
需要下载 GGUF 格式模型文件（可从 Hugging Face 获取）
本机需可访问 localhost:9931 端口

安装与启动步骤

1安装应用

用 Homebrew Cask 一键安装 Llama 菜单栏应用，安装完成后应用会出现在启动台和菜单栏。
```
brew install --cask llama-app
```
2或从 Releases 下载

如果不用 Homebrew，可到 GitHub Releases 页面手动下载安装包，README 提供了该下载途径。
3启动 Llama

从启动台打开 Llama，它会以菜单栏应用形式运行，并自动在本机拉起一个本地推理服务。
4准备 GGUF 模型

在应用内一键安装推荐模型，或自行从 Hugging Face 下载任意 GGUF 模型；已通过 llama.cpp 安装的模型会自动出现在列表中。
5在 WebUI 中对话

使用内置 WebUI 选择模型开始多轮对话；模型按需加载、空闲时自动卸载，不占用常驻内存。
6调用本地 API

也可让其他应用（编码助手、聊天界面、编辑器）连接本地 API，或直接用 curl 列出已安装模型。
```
curl http://localhost:9931/v1/models
```

关键配置

配置项	必填	说明	示例
`本地服务地址（Base URL）`	是	启动 Llama 后本机提供的 OpenAI 兼容接口前缀，供 WebUI 和外部应用连接。	`http://localhost:9931/v1`