项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-10-29 · 当前星标 ★ 455
核心亮点
- 类型安全的 Swift API，请求与响应模型清晰，减少手写 HTTP 和 JSON 解析
- 支持结构化输出与工具调用，便于构建需要稳定格式和外部函数调用的应用
- 覆盖视觉模型多模态输入，可处理图片理解类场景
不足之处
- 早期项目，API 可能随 Ollama 接口演进发生变动，稳定性待观察
- 文档与示例相对有限，复杂用法需阅读源码
- 仅支持 Swift 生态，跨平台与其他语言项目无法复用
适用场景
- macOS 桌面 AI 助手应用集成本地模型对话
- iOS 端离线文档问答与摘要工具
- 需要结构化 JSON 输出的表单填写或信息抽取应用
替代项目
ollama-python、ollama-js、LangChain
上一篇：llm-bridge
下一篇：NoLlama
同类项目推荐
graphjin
开源
给AI代理一个统一数据入口，安全读写数据库和API
One governed graph for AI agents — GraphQL + MCP over your databases, files, APIs, ···
recipes
开源
照抄配方，几分钟跑通 vLLM 推理服务
Common recipes to run vLLM
vLLM-Moet
开源
消费级 Blackwell 上跑 2-bit MoE，画质对齐官方 FP4
A vLLM patch + hand‑written SM120 SASS kernels: 2‑bit MoE experts + an FP4 "delta"···
mlc-llm
开源
一次编译，跑遍所有设备，让大模型部署又快又省
Universal LLM Deployment Engine with ML Compilation
lix
开源
给任意文件装上时光机，让AI变更可追溯
Embeddable version control system for files and tables.
metal-flash-attention
开源
在 Apple 芯片上让注意力计算飞起来，加速 Stable Diffusion 推理。
FlashAttention (Metal Port)
emmy
开源
选配方或自调优，让 LLM 推理在 GPU 上跑得更快
Optimized GPU compiler for LLM inference. Choose from a list of optimized recipes or···
evadb
开源
用 SQL 方式调用 AI 模型，快速构建智能数据应用
Database system for AI-powered apps
chromadb-chart
开源
一条命令在 Kubernetes 上部署 ChromaDB，省心省力
Chart for deploying ChromaDB in Kubernetes