strata-mlx
在 Mac 上用 MLX 跑 Strata 格式模型
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-11-13 · 当前星标 ★ 111
核心亮点
- 基于 MLX，直接利用 Apple Silicon 的 GPU 统一内存做推理
- 实现 Strata 行协议，可作为协议兼容层接入现有客户端
- 支持读取 Strata 的 GGUF 权重，打通非官方格式的本地加载链路
不足之处
- 早期项目，星标约 111，接口与稳定性仍在演进
- 非官方实现，与上游格式/协议的兼容性依赖作者跟进
- 文档与社区规模有限，问题排查主要靠读源码
适用场景
- 在 Mac 本机加载 Strata 格式 GGUF 模型做推理实验
- 验证或对接 Strata 行协议的客户端与工具链
- Apple Silicon 上的本地模型部署原型开发
替代项目
mlx-lm、llama.cpp、Ollama
上一篇：PS5LM-Plus
下一篇：MACaQ
同类项目推荐
llm-gateway
开源
一套接口接所有大模型，Agent 换供应商不用改代码
Open Source LLM Gateway
ggml
开源
轻量级 C++ 张量库，让大模型在本地设备流畅跑起来
Tensor library for machine learning
gpu-telemetry
开源
一个代理，让每块 GPU 的消耗都精确到 Pod 或作业
GPU Observability with workload attribution. One OTLP agent per node ties hardware m···
satoriDB
开源
把向量搜索嵌进你的应用，本地跑，快又省。
High performance embedded vector database
selfhostedAI
开源
一键自托管 AI，小白也能轻松跑起图像生成
A collection of one-click self-hosted AI
OpenGPT
开源
免费封装 GPT API，几行代码接入智能对话
OpenGPT 3.5/4 is a project aimed at providing practical and user-friendly APIs. The ···
kiro-gateway
开源
把免费 Claude 模型接到任意 AI 客户端，摆脱 AWS 工具锁
Proxy API gateway for Kiro IDE & CLI (Amazon Q Developer / AWS CodeWhisperer). Use f···
gateway
开源
用 Rust 和 Go 打造 AI 时代的 Kubernetes 网关
Nantian Gateway — Kubernetes Gateway API implementation with AI proxy, WASM plugin ···
whylogs
开源
记录数据日志，实时监控模型质量与漂移
An open-source data logging library for machine learning models and data pipelines. ···