afm-Server

把苹果设备端模型变成本地 OpenAI API,一键调用

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 8 🐛 待处理 2 👀 关注 4
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 196
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,无付费版本。

项目预览

afm-Server 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队Techopolis
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Swift
技术栈/模型apple-intelligence,foundation-models,local-llm,macos,menu-bar-app,on-device-ai,openai-api,swift
GitHub 星标★ 196
上线时间2025-09-14 00:00:00
代码更新2026-06-02
仓库体积8.3 MB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

afm-Server 是一个运行在 macOS 菜单栏的小工具,它将苹果设备内置的 Foundation Models(如设备端大模型)暴露为兼容 OpenAI 格式的本地 API。它完全离线运行,不依赖任何云服务,也没有第三方依赖,只需一个菜单栏图标即可启动服务。该项目解决了开发者希望在本地调用苹果设备端模型、但苦于没有统一接口的问题,让你可以用任何支持 OpenAI API 的客户端(如 LangChain、ChatGPT 客户端等)直接连接本地模型。核心能力包括:自动发现并加载系统可用的 Foundation Model,提供 OpenAI 兼容的 /v1/chat/completions 端点,支持流式输出,以及简单的菜单栏状态管理。由于是早期项目,功能相对简洁,但为苹果生态的本地 AI 开发提供了一个轻量级的入口。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 196

核心亮点

  • 零依赖、零云依赖,完全本地运行,隐私安全
  • 原生菜单栏应用,启动和切换模型非常方便
  • 兼容 OpenAI API 格式,可直接对接现有工具链

不足之处

  • 仅支持 macOS 且依赖系统版本和硬件,兼容性受限
  • 项目早期,功能简单,缺乏配置和错误处理
  • 文档/社区待观察

适用场景

  • 在 Mac 上本地调试 AI 应用,不想付费使用云端 API
  • 构建隐私敏感型工具,需要完全离线的模型推理
  • 快速验证苹果 Foundation Models 的能力,作为开发测试接口

替代项目

Ollama、LocalAI、llama.cpp

上一篇:LocalLLMClient

下一篇:olleh

同类项目推荐

genai-api 开源

几分钟在 Cloudflare Workers 上免费接入 Gemini,每天数百次请求

Supercharge your applications using Cloudflare Workers and Gemini within minutes (an···

★ 112 2026-08-09
comfyicu 开源

把 ComfyUI 工作流扔到云端跑,本地无需高配 GPU

ComfyICU - Run ComfyUI workflows in the Cloud

★ 56 2026-08-09
codeburn 开源

每分钱花哪了看得明明白白,AI 账单不再超支。

Free, local tool to track AI coding token usage and cost across 37 tools and agents ···

★ 11735 2026-08-09
ai-on-openshift 开源

在OpenShift上快速部署AI工作负载,参考架构即拿即用。

AI-on-OpenShift website source code

★ 109 2026-08-09
TiktokenSharp 开源

C# 项目轻松算 Token,精准控成本

Token calculation for OpenAI models, using `o200k_base` `cl100k_base` `p50k_base` ···

★ 128 2026-08-09
mosec 开源

动态批处理+流水线,榨干GPU,提升模型服务吞吐量

A high-performance ML model serving framework, offers dynamic batching and CPU/GPU p···

★ 903 2026-08-09
aisimulate 开源

不占 GPU 也能预测大模型服务性能并搜配置

AISimulate predicts LLM serving behavior and searches for strong deployment configur···

★ 123 2026-11-07