LocalLLMClient

在苹果设备上轻松跑本地大模型，离线也能用

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 开源模型 🍴 复刻 70 🐛 待处理 14 👀 关注 4
GitHub ↗
GitHub 星标 ★ 219
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源项目，MIT 许可证，完全免费，无付费版本。

项目预览

LocalLLMClient 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类开源模型
开发团队tattn
GitHubhttps://github.com/tattn/LocalLLMClient
定价模式🏷️完全免费
价格说明开源项目，MIT 许可证，完全免费，无付费版本。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议MIT
主要语言Swift
技术栈/模型foundation-models,gemma,gguf,ios,linux,llama,llm,macos,mlx,qwen,swift
GitHub 星标★ 219
上线时间2025-04-29 00:00:00
代码更新2026-08-26
仓库体积616 KB
本站数据更新2026-11-08
维护状态维护中
收录时间2026-08-09
浏览次数4

项目介绍

LocalLLMClient 是一个用 Swift 编写的开源包，旨在让开发者能够在 iOS、macOS 和 Linux 上直接运行本地大语言模型（LLM）。它解决了在苹果生态系统中集成本地 AI 推理的痛点，无需依赖云端 API，从而降低延迟、保护隐私并支持离线使用。该库提供了简洁的 Swift 接口，封装了模型加载、推理调用和资源管理等底层细节，使开发者可以轻松地将本地 LLM 能力嵌入到自己的应用中。核心能力包括跨平台支持（iOS/macOS/Linux）、本地模型推理、以及面向 Swift 开发者的原生体验。作为早期项目，它正在快速迭代，为苹果生态的本地 AI 应用开发提供了一个轻量级的基础设施选择。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 219

核心亮点

  • 原生 Swift 实现，与 iOS/macOS 应用无缝集成
  • 支持多平台（iOS/macOS/Linux），覆盖苹果生态和服务器端
  • 本地推理保护隐私，无需网络连接，降低使用成本

不足之处

  • 项目处于早期阶段，API 可能不稳定，文档有待完善
  • 功能相对基础，可能缺少高级特性（如模型微调、量化优化）

适用场景

  • 在 iOS 应用中集成离线智能助手，如文本生成、摘要
  • macOS 开发工具中嵌入本地代码补全或文档分析
  • Linux 服务器上部署轻量级 LLM 服务，用于内部自动化

替代项目

llama.cpp、MLC LLM、SwiftTransformers

上一篇：tabpfn-client

下一篇：afm-Server

同类项目推荐

deepreasoning 开源

让 Claude 思考过程可见，结合 DeepSeek R1 推理链，提升 AI 决策透明度。

A high-performance LLM inference API and Chat UI that integrates DeepSeek R1's CoT r···

★ 5354 2026-08-09
VectorHub 开源

向量搜索入门资源库，已停更，新用户请转向 SIE 引擎

Deprecated historical repo. Superlinked now develops SIE, a self-hosted inference en···

★ 533 2026-08-09
mlops-project-template 开源

在Azure上快速搭建企业级MLOps流水线，省时又规范。

Azure MLOps (v2) solution accelerators. Enterprise ready templates to deploy your ma···

★ 85 2026-08-09
Observal 开源

把 AI 组件管起来，共享复用还能看运行数据

Share and discover coding agent resources across your team. Self-hosted, Apache 2.0,···

★ 4327 2026-08-09
monocle 开源

给 LLM 应用装上行车记录仪，调用链一目了然

Monocle is a framework for tracing GenAI app code. This repo contains implementation···

★ 345 2026-11-02
LLM-Tools 开源

输入模型参数，秒算 GPU 显存和硬件需求

Open-source calculator for LLM system requirements.

★ 183 2026-08-09
dfserver 开源

用 Go 打造高并发 AI 图像生成流水线，提升吞吐量。

A distributed backend AI pipeline server

★ 343 2026-08-09
NpgsqlRest 开源

数据库直接变 REST API，省掉写后端代码

Transform Your PostgreSQL Database into a Production-Ready, Blazing-Fast Standalone ···

★ 133 2026-09-24
clawk 开源

给 AI 编码代理一个一次性 Linux 虚拟机，保护你的电脑。

Give coding agents a disposable Linux VM, not your laptop

★ 1041 2026-08-09