olleh 是基础设施领域的开源项目,由 mattt 开发,2025 年首次发布。
它收录于基础设施分类,该分类目前共有 1,132 个项目,GitHub 星标数为 188。
项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-21。MIT许可证,本地部署使用,完全免费。
它主要面向的使用场景是:在Mac上快速体验AppleFoundationModels,无需图形界面。同类可对比的替代方案包括 Ollama、llama.cpp、LocalAI。

用 Ollama 的姿势,跑 Apple 的模型
olleh 是一个用 Swift 编写的命令行工具,兼容 Ollama 的 API 和 CLI 接口,让开发者能够通过熟悉的 Ollama 工作流来调用 Apple 的 Foundation Models(如设备端或云端模型)。它解决了 Apple 生态中缺乏统一、易用的模型调用工具的问题,使得原本为 Ollama 设计的脚本、工具和集成可以无缝迁移到 Apple 模型上。核心能力包括:提供与 Ollama 兼容的 REST API 和命令行交互,支持模型列表、对话、流式输出等常见操作,并利用 Apple 的模型框架实现本地推理。项目处于早期阶段,适合希望在 Apple 设备上使用本地模型的开发者快速上手。
Ollama、llama.cpp、LocalAI
olleh 是基础设施领域的开源项目,由 mattt 开发,2025 年首次发布。
它收录于基础设施分类,该分类目前共有 1,132 个项目,GitHub 星标数为 188。
项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-21。MIT许可证,本地部署使用,完全免费。
它主要面向的使用场景是:在Mac上快速体验AppleFoundationModels,无需图形界面。同类可对比的替代方案包括 Ollama、llama.cpp、LocalAI。
freebuff-proxy
开源
聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型,免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···