SiliconScope
免 sudo 看 ANE 和内存带宽,本地大模型跑得快不快一目了然
SiliconScope 是一款面向 Apple Silicon Mac 的原生系统监控工具,用 SwiftUI 编写,无需 sudo 权限即可运行。它解决的核心问题是:现有的 macOS 监控工具(如活动监视器、iStat Menus)对 Apple 芯片特有的硬件单元缺乏细粒度展示,尤其是神经网络引擎(ANE)、媒体引擎(Media Engine)和内存带宽这些直接影响本地大模型推理性能的指标。SiliconScope 把这些数据可视化到菜单栏和独立窗口中,让用户能实时看到 ANE 占用率、GPU 负载、内存带宽吞吐以及 CPU/GPU/ANE 的功耗分配。它特别适合跑 Ollama、LM Studio、llama.cpp、MLX 等本地推理工具的用户,用来判断模型加载、token 生成阶段到底卡在哪个硬件环节,是排查性能瓶颈的实用面板。
项目数据
使用教程
核心亮点
- 无需 sudo 即可读取 ANE、媒体引擎和内存带宽等 Apple 芯片专属指标,安装即用
- 原生 SwiftUI 菜单栏应用,资源占用低,界面与 macOS 风格统一
- 针对本地 LLM 场景设计,能帮助定位 Ollama/MLX 推理时的硬件瓶颈
不足之处
- 仅支持 Apple Silicon,Intel Mac 和旧系统无法使用
- 项目处于早期阶段,功能覆盖和长期维护节奏有待观察
适用场景
- 本地跑 Ollama 或 LM Studio 时监控 ANE/GPU 占用,判断推理瓶颈
- 开发者调试 MLX 或 llama.cpp 模型性能,对比不同硬件单元负载
- 日常菜单栏常驻,快速查看内存带宽和芯片功耗状态
替代项目
asitop、Stats
项目介绍
上一篇:tpu-mlir
下一篇:chatllm.cpp
同类项目推荐
freebuff-proxy
开源
聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。
OpenAI-compatible gateway for FreeBuff coding models. Token pool, session lifecycle,···
microduck
开源
用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型,免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···