项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 196
核心亮点
- 零依赖、零云依赖,完全本地运行,隐私安全
- 原生菜单栏应用,启动和切换模型非常方便
- 兼容 OpenAI API 格式,可直接对接现有工具链
不足之处
- 仅支持 macOS 且依赖系统版本和硬件,兼容性受限
- 项目早期,功能简单,缺乏配置和错误处理
- 文档/社区待观察
适用场景
- 在 Mac 上本地调试 AI 应用,不想付费使用云端 API
- 构建隐私敏感型工具,需要完全离线的模型推理
- 快速验证苹果 Foundation Models 的能力,作为开发测试接口
替代项目
Ollama、LocalAI、llama.cpp
上一篇:LocalLLMClient
下一篇:olleh
同类项目推荐
genai-api
开源
几分钟在 Cloudflare Workers 上免费接入 Gemini,每天数百次请求
Supercharge your applications using Cloudflare Workers and Gemini within minutes (an···
comfyicu
开源
把 ComfyUI 工作流扔到云端跑,本地无需高配 GPU
ComfyICU - Run ComfyUI workflows in the Cloud
podman-desktop-extension-ai-lab
开源
在桌面点点鼠标,用容器在本机跑起大模型
Work with LLMs on a local environment using containers
codeburn
开源
每分钱花哪了看得明明白白,AI 账单不再超支。
Free, local tool to track AI coding token usage and cost across 37 tools and agents ···
ai-on-openshift
开源
在OpenShift上快速部署AI工作负载,参考架构即拿即用。
AI-on-OpenShift website source code
TiktokenSharp
开源
C# 项目轻松算 Token,精准控成本
Token calculation for OpenAI models, using `o200k_base` `cl100k_base` `p50k_base` ···
mosec
开源
动态批处理+流水线,榨干GPU,提升模型服务吞吐量
A high-performance ML model serving framework, offers dynamic batching and CPU/GPU p···
vllm_backend
开源
把 vLLM 推理能力快速封装成可调用的服务接口
aisimulate
开源
不占 GPU 也能预测大模型服务性能并搜配置
AISimulate predicts LLM serving behavior and searches for strong deployment configur···
