keda-gpu-scaler

无需 Prometheus，让 K8s 上的 GPU 工作负载按真实使用量自动伸缩。

keda-gpu-scaler 是一个基于 KEDA 外部 gRPC 扩展器的 GPU 自动扩缩容组件。它通过 DaemonSet 方式在每个节点上运行，直接利用 NVML 库采集 GPU 利用率、显存占用等原生指标，无需部署 Prometheus 等额外监控系统。该工具解决了 Kubernetes 中 GPU 工作负载（如模型推理服务）在流量波动时无法按 GPU 实际使用量弹性伸缩的问题，弥补了 KEDA 内置 scaler 对 GPU 指标支持的缺失。核心能力包括：实时采集 GPU 指标、通过 gRPC 协议与 KEDA 集成、根据自定义阈值触发扩缩容决策，从而帮助用户降低 GPU 资源成本，提升资源利用率。项目处于早期阶段，但设计简洁，部署轻量，适合已有 KEDA 且希望快速实现 GPU 弹性伸缩的团队。