项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 81
核心亮点
- 深度适配 Apple Silicon，利用 MLX 加速，性能优于通用方案
- 内置模型对比实验室，并排输出结果，直观发现差异
- 提供基准测试和运行时遥测，量化性能与资源占用
不足之处
- 仅支持 Apple Silicon，Intel Mac 和 Windows/Linux 用户无法使用
- 早期项目，功能完整性和稳定性待验证
- 文档/社区待观察
适用场景
- 在 Mac 上快速评估多个本地 LLM 的生成质量
- 对本地模型进行性能基准测试，选择最优部署方案
- 开发调试 LLM 应用时，回放推理过程定位问题
替代项目
Ollama、LM Studio、Jan
同类项目推荐
awesome-ai-memory
开源
一张清单，快速摸清AI记忆项目全貌
A list of AI memory projects
Data-Engineering-Roadmap
开源
一张图理清数据工程学习路径，从入门到实战
Roadmap for Data Engineering
dify-helm
开源
一条 helm install 把 Dify 全套 LLM 应用栈部署到 K8s
Deploy langgenious/dify, an LLM based app on kubernetes with helm chart.
ML-Model-CI
开源
一键将训练好的模型自动优化并部署为高性能推理服务
MLModelCI is a complete MLOps platform for managing, converting, profiling, and depl···
datalinkx
开源
配置化搞定异构数据源同步，支持增量与全量，内置大模型算子。
DatalinkX异构数据源之间的数据同步系统，支持海量数据的增量或全量同步，同时支持HTTP、O···
d-inference
开源
把闲置 Mac 组成私有推理集群
Private Inference Network on Idle Macs
mesh-llm
开源
共享闲置算力，跑起你的 AI 代理
Distributed AI/LLM for the people. Share compute privately or publicly to power your···
OrcaRouter-Lite
开源
自托管统一多家大模型，OpenAI 接口即插即用
Self-hosted LLM router with a managed safety net. OpenAI-compatible. BYOK. Single-wo···
mlops-project
开源
一键跑通ML全流程，从训练到部署不再手忙脚乱
An end-to-end machine learning (mlops) project