项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1643
使用教程
环境要求
- Docker 已安装并可用
- 已安装 NVIDIA Container Toolkit(用于 --gpus all 透传显卡)
- 主机已安装可用的 NVIDIA 显卡驱动(nvidia-smi 可正常输出)
- 内网或本机可访问 1312 端口
安装与启动步骤
-
1准备运行环境
先在宿主机确认 Docker 可用,并按官方指南安装 NVIDIA Container Toolkit,否则 docker run 加 --gpus all 会失败。
docker --version -
2单机启动监控
一条命令拉起容器,映射 1312 端口并透传所有 GPU,后台常驻运行。
docker run -d --gpus all -p 1312:1312 ghcr.io/psalias2006/gpu-hot:latest -
3打开仪表盘
浏览器访问本机 1312 端口即可看到实时 GPU 利用率、显存、温度等图表。
-
4多机节点上报
在每个 GPU 服务器上运行同名镜像,并用 NODE_NAME 给节点起一个可辨识的名字。
docker run -d --gpus all -p 1312:1312 -e NODE_NAME=$(hostname) ghcr.io/psalias2006/gpu-hot:latest -
5启动聚合 Hub
在一台无需 GPU 的机器上以 hub 模式启动,通过 NODE_URLS 用逗号分隔各节点地址。
docker run -d -p 1312:1312 -e GPU_HOT_MODE=hub -e NODE_URLS=http://server1:1312,http://server2:1312,http://server3:1312 ghcr.io/psalias2006/gpu-hot:latest -
6源码方式构建
克隆仓库后进入目录,用 docker-compose 构建并启动,适合需要改代码的场景。
git clone https://github.com/psalias2006/gpu-hot cd gpu-hot docker-compose up --build
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
NVIDIA_VISIBLE_DEVICES | 否 | 指定要监控的 GPU 编号,默认监控全部。 | 0,1 |
NVIDIA_SMI | 否 | 老型号显卡指标缺失时,强制改用 nvidia-smi 采集。 | true |
GPU_HOT_MODE | 否 | 设为 hub 时启用多节点聚合,默认单节点模式。 | hub |
NODE_NAME | 否 | 节点在仪表盘上的显示名,默认取主机名。 | gpu-server-1 |
NODE_URLS | 否 | hub 模式下必填,多个节点地址用逗号分隔。 | http://server1:1312,http://server2:1312 |
UPDATE_INTERVAL | 否 | NVML 轮询间隔(秒),默认 0.5。 | 0.5 |
如何确认成功
浏览器打开 http://localhost:1312,能看到实时 GPU 利用率、温度等图表并持续刷新即成功。
常见问题
Q:页面上没有出现任何 GPU 指标怎么办?
A:多为老型号显卡 NVML 支持不佳,按 README 在启动命令中追加 -e NVIDIA_SMI=true 强制走 nvidia-smi 采集,然后重启容器。
Q:看不到具体的进程名和占用?
A:需要在 docker run 中追加 --init --pid=host 参数,容器才能读取宿主机进程信息,注意这会暴露宿主进程。
Q:hub 模式的那台机器需要显卡吗?
A:不需要。README 明确说明 hub 机器无需 GPU,只要各节点 URL 可达、端口已映射即可聚合展示。
Q:1312 端口被占用怎么处理?
A:改映射宿主机端口,例如 -p 1313:1312,容器内部端口仍保持 1312,然后访问 http://localhost:1313。
注意事项
- --init --pid=host 会让容器访问宿主机进程信息,仅在可信内网环境使用。
- 所有 GPU 服务器必须能通过 NODE_URLS 中填写的地址与端口互相访问。
- README 未提及鉴权机制,建议不要直接暴露到公网。
- 无客户端连接时轮询会自动暂停,空闲 CPU 占用接近零,属正常现象。
核心亮点
- 实时刷新 GPU 利用率、显存、温度等核心指标,无需命令行
- 支持多 GPU 节点集中监控,一屏掌握集群状态
- 部署极简,一条命令启动本地 Web 服务,零依赖配置
不足之处
- 仅支持 NVIDIA GPU,AMD 或其他加速卡无法使用
- 功能聚焦监控展示,缺少告警通知和权限管理等进阶特性
适用场景
- 深度学习训练时实时监控多卡利用率,避免资源闲置
- GPU 服务器运维巡检,快速定位过热或显存溢出的显卡
- 内网环境搭建轻量级 GPU 资源看板,供团队共享查看
替代项目
nvidia-smi、nvtop、DCGM Exporter + Grafana
同类项目推荐
Serving-Machine-Learning-Models
开源
一套代码示例,搞定模型上线多种姿势
This repository contains instructions, template source code and examples on how to s···
gateway-api-inference-extension
开源
让 K8s 网关按负载智能分发大模型推理请求
Gateway API Inference Extension
AI-in-a-Box
开源
微软官方加速器,快速搭建 Azure AI 应用
AI-in-a-Box leverages the expertise of Microsoft across the globe to develop and pro···
Belullama
开源
一键打包本地大模型和画图,开箱即用
Belullama is a comprehensive AI application that bundles Ollama, Open WebUI, and Aut···
awesome-free-llm-apis
开源
白嫖各种免费LLM API,开发测试不花钱
List of Permanent Free LLM API (API Keys)
FastFlowLM
开源
在 AMD NPU 上像用 Ollama 一样快速跑大模型
Run LLMs on AMD Ryzen™ AI NPUs in minutes; purpose-built and deeply optimized for t···
metaflow-tools
开源
一键部署 Metaflow 生产环境,省心运维工作流平台
Tools and utilities for operating Metaflow in production
mistral-inference
开源
官方推理库,快速跑通 Mistral 模型,省心部署
Official inference library for Mistral models
kontext-cli
开源
给AI智能体装上安全围栏,事前拦截危险操作,事后可追溯
Runtime security for AI agents: discover agents, map their permissions, and enforce ···
