mlx-swift-lm
在苹果设备上本地跑大模型，Swift 直接调用
mlx-swift-lm 是苹果 MLX 框架的 Swift 语言实现，用于在 Apple Silicon 设备上本地运行大语言模型（LLM）和多模态视觉语言模型（VLM）。它解决了在 iOS、macOS 原生应用中直接调用大模型推理的问题，无需依赖云端 API 或 Python 环境。核心能力包括：加载并运行主流开源模型权重，支持文本生成、多模态图像理解，利用 Metal 和统一内存架构在 Mac 与 iPhone/iPad 上高效推理。项目提供 Swift API，方便开发者将本地 AI 能力集成到 App 中，适合对隐私、离线场景有要求的移动端和桌面端应用。
开源
free
开发框架
GitHub 星标
★ 810
维护状态
活跃
是否开源
是
定价模式
free
项目数据
分类开发框架
开发团队ml-explore
所属国家
定价模式free
价格说明开源免费，需自行部署
访问状态
是否开源是
开源协议MIT
主要语言Swift
技术栈/模型
GitHub 星标★ 810
30天Star增速
HF 下载量
上线时间2025-10-02 00:00:00
最近更新2026-09-18 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-16
浏览次数0
使用教程
核心亮点
- 基于 MLX 和 Metal，在 Apple Silicon 上推理效率高
- 纯 Swift 实现，可无缝集成到 iOS/macOS 原生应用
- 同时支持 LLM 和 VLM，覆盖文本与多模态场景
不足之处
- 仅支持 Apple 平台，无法跨平台使用
- 项目早期，模型兼容性和文档完善度待观察
适用场景
- 开发离线可用的 iOS 聊天助手
- 在 Mac 上本地运行多模态图像理解工具
- 为苹果生态应用添加隐私安全的本地 AI 能力
替代项目
llama.cpp、mlc-llm
项目介绍
上一篇：llm4s
下一篇：llm-gemini
同类项目推荐
ComfyUI_Custom_Nodes_AlekPet
开源
给 ComfyUI 装上语音翻译和姿态检测，工作流更全能
Custom nodes that extend the capabilities of Comfyui
langchain
开源
组装 AI 应用的乐高积木，从想法到上线不换工具
The agent engineering platform.
transformers
开源
全球最大的模型仓库全家桶，想用的模型一把抓
Transformers: the model-definition framework for state-of-the-art machine learning m···
bruno
开源
把 API 测试当代码管理，用 Git 搞定协作与版本追踪
Opensource IDE For Exploring and Testing API's (lightweight alternative to Postman/I···