spark-dashboard
本地跑大模型，显卡和推理状态一屏看清
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-11-11 · 当前星标 ★ 142
核心亮点
- 开箱即用的单页仪表盘，无需搭建 Prometheus/Grafana 整套监控栈
- 同时覆盖硬件层（GPU/CPU/内存）与推理层（vLLM 指标），软硬数据对照直观
- 采用流式推送刷新，指标变化能近实时反映，适合观察推理负载波动
不足之处
- 项目处于早期，星标与贡献者规模小，长期维护和生态成熟度待观察
- 监控对象集中在 NVIDIA GPU 与 vLLM，对其他加速卡和推理框架支持有限
- 缺少告警、历史数据持久化等生产级可观测性能力
适用场景
- 个人或小团队在本地工作站/DGX 上部署 vLLM 后，实时查看显存与吞吐是否吃满
- 模型推理调优时对比不同并发下的 GPU 利用率与请求延迟变化
- 单机推理节点的日常健康巡检，快速判断硬件或服务是否异常
替代项目
nvidia-smi、vLLM、Netdata
上一篇：djev-run
下一篇：spark-ds41f
同类项目推荐
seekdb
开源
一个数据库搞定智能体所有数据，检索快还省心
The AI-Native Search Database. Best for agent storage, it unifies vector, text, stru···
comfy-trt-test
开源
给ComfyUI装上TensorRT引擎，让SD出图更快
attempt to use TensorRT with ComfyUI
mlops-project
开源
一键搭建MLOps流水线，让模型上线快人一步
vLLM-metax
开源
让 vLLM 跑在沐曦 GPU 上，国产卡也能高吞吐推理
Community maintained hardware plugin for vLLM on MetaX GPU
dsh-cost-meter
开源
按会话和模型实时算清 DeepSeek 花了多少钱
Cost tracking for DeepSeek Harness: session and model costs, token usage, budgets, p···
anyquery
开源
用 SQL 一把梭，轻松查遍 60+ 工具数据，还能喂给 AI
One SQL interface for 60+ tools (e.g., GitHub, Notion, Airtable). Plug into any LLM ···
stable-diffusion-webui-docker
开源
一条命令跑起 Stable Diffusion WebUI，告别环境配置地狱
Easy Docker setup for Stable Diffusion with user-friendly UI
optillm
开源
给 LLM 推理加个外挂，自动优化提示词和采样策略，提升答案质量与效率。
Optimizing inference proxy for LLMs
raft
开源
GPU 加速的检索与机器学习算子库，开箱即用
RAFT contains fundamental widely-used algorithms and primitives for machine learning···