gpu-telemetry

一个代理，让每块 GPU 的消耗都精确到 Pod 或作业

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 基础设施 🍴 复刻 10 🐛 待处理 6 👀 关注 3
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 77
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目，MIT许可证，完全免费，无付费版本。

项目预览

gpu-telemetry 项目界面预览图
图片来源：项目官网

项目数据

分类基础设施
开发团队last9
官网地址https://last9.io/gpu-observability
GitHubhttps://github.com/last9/gpu-telemetry
定价模式🏷️完全免费
价格说明开源项目，MIT许可证，完全免费，无付费版本。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai,amd,dcgm,gpu,gpu-monitoring,gpu-observability,helm,intel-gaudi-base-operator,kubernetes,llm-observability,mlops,nvidia,nvml-monitoring,opentelemetry,slurm,workload-attribution
GitHub 星标★ 77
上线时间2026-04-19 00:00:00
代码更新2026-11-01
仓库体积1.6 MB
本站数据更新2026-11-09
维护状态较活跃
收录时间2026-08-09
浏览次数6

项目介绍

gpu-telemetry 是一个面向 GPU 可观测性的开源项目，核心解决 GPU 资源在 Kubernetes 或 Slurm 集群中“被谁使用”的问题。它通过在每个节点部署一个 OTLP 代理，将 NVIDIA、AMD、Intel Gaudi 等硬件的指标（如利用率、显存、温度等）与正在运行的 K8s Pod 或 Slurm 作业关联起来，实现工作负载级别的 GPU 监控。项目采用 Python 编写，基于 OpenTelemetry 协议输出指标，可无缝接入 Prometheus、Grafana 等主流监控系统。其核心能力包括：自动发现 GPU 设备、采集硬件遥测数据、通过标签（如 pod 名称、作业 ID）进行归属、支持多厂商 GPU。对于需要精细化管理 GPU 资源、优化利用率或进行成本分摊的团队，该项目提供了轻量级、标准化的解决方案，避免了传统监控工具无法关联工作负载的痛点。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 77

技术标签

核心亮点

  • 原生支持 OTLP 协议，可直接对接 OpenTelemetry 生态，无需额外转换
  • 覆盖 NVIDIA、AMD、Intel Gaudi 三大主流 GPU 厂商，硬件兼容性好
  • 自动关联 K8s Pod 和 Slurm 作业，实现工作负载级别的资源归属

不足之处

  • 项目处于早期阶段（57 星），文档和社区支持待观察
  • 暂未提及对 GPU 虚拟化或 MIG 等细粒度切分的支持

适用场景

  • Kubernetes 集群中按 Pod 维度监控 GPU 利用率，定位资源热点
  • Slurm 集群中追踪作业的 GPU 消耗，用于成本核算或配额管理
  • 混合 GPU 环境（多厂商）下统一采集遥测数据，构建统一监控面板

替代项目

DCGM Exporter、Prometheus Node Exporter、NVIDIA GPU Operator

上一篇：xvc

下一篇：a-guide-to-mlops

同类项目推荐

traceAI 开源

给 AI 应用装上监控，追踪调用链和成本

Open Source AI Tracing Framework built on Opentelemetry for AI Applications and Fram···

★ 266 2026-08-09
vllm-factory 开源

让编码器模型也能跑上 vLLM，推理快人一步

Production inference for encoder models - ColBERT, GLiNER, ColPali, embeddings etc. ···

★ 87 2026-08-09
serverless-workers 开源

一键部署 AI 模型为无服务器端点，省时省力

⚙️ | REPLACED BY https://github.com/runpod-workers | Official set of serverless wo···

★ 63 2026-08-09
statewave 开源

给AI智能体装上可追溯的长期记忆，告别查询式检索

Open-source memory runtime for AI agents — reproducible, provenance-tagged context ···

★ 257 2026-08-09
ComfyUI-Installer 开源

Linux 上一键装好 ComfyUI，省去手动配环境的麻烦。

Easily install ComfyUI on a Linux system. Installs completely inside a Python venv.

★ 54 2026-08-09
vpscheck 开源

一键检测 VPS 解锁和性能，买前扫雷买后安心

️ VPS全能检测脚本，一键检测Netflix/Disney+/ChatGPT/Gemini等流媒体和AI服务解锁情况，···

★ 78 2026-08-09
InferrLM 开源

在手机本地跑 AI，无需联网，保护隐私

InferrLM - On-device AI for iOS & Android

★ 114 2026-08-09
batchlinks-webui 开源

一条链接列表，批量拉取模型，省时省力

Download several Huggingface, MEGA, and CivitAI links at once. SD webui extension. F···

★ 185 2026-08-09
sagemaker-python-sdk 开源

几行 Python 把模型训练部署到 AWS 云端

A library for training and deploying machine learning models on Amazon SageMaker

★ 2272 2026-10-12