graphsignal

把 GPU 内核耗时对应回 Python 代码,快速找出推理瓶颈

开源 🏷️基础免费,高级付费 ⏳ 访问状态待核验 基础设施 🍴 复刻 12 👀 关注 2
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 273
维护状态 较活跃
是否开源 开源
定价模式 🏷️基础免费,高级付费 支持限时试用 · 提供免费额度,付费套餐按需订阅,具体价格待确认

项目预览

graphsignal 项目界面预览图
图片来源:项目官网

项目数据

分类基础设施
开发团队graphsignal
定价模式🏷️基础免费,高级付费
价格说明提供免费额度,付费套餐按需订阅,具体价格待确认
访问状态⏳ 访问状态待核验
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型ai-agents,artificial-intelligence,debugging,deep-learning,gpu,gpu-kernels,gpu-monitoring,gpu-optimization,inference,machine-learning,monitoring,observability,pytorch
GitHub 星标★ 273
上线时间2021-04-13 00:00:00
代码更新2026-10-13
仓库体积1.2 MB
本站数据更新2026-10-30
维护状态较活跃
收录时间2026-10-30
浏览次数0

项目介绍

Graphsignal 是一个面向 AI 推理与智能体工作负载的 GPU 性能分析工具,用 Python 实现。它解决的核心问题是:当模型推理或智能体流水线在 GPU 上运行时,开发者往往只能看到整体 GPU 利用率,难以定位具体是哪些算子、内核或调用链造成了瓶颈。Graphsignal 通过采集 GPU 内核级指标与调用栈,把 GPU 活动关联回 Python 代码路径,帮助定位慢内核、显存异常和调度空转。核心能力包括 GPU 内核追踪、调用栈归因、推理性能剖析,以及对智能体多步骤调用链的观测。项目处于早期阶段,星标数不高,适合作为轻量级 GPU 侧性能观测的补充手段。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-30 · 当前星标 ★ 273

核心亮点

  • 将 GPU 内核活动与 Python 调用栈关联,能直接定位到具体代码行而非只看整体利用率
  • 面向推理和智能体场景设计,覆盖多步骤调用链的性能归因
  • Python 原生接入,对现有深度学习代码改动较小

不足之处

  • 项目处于早期,星标约 273,生态与文档成熟度有待观察
  • 对非 NVIDIA 或特定 GPU 平台的支持范围尚不明确

适用场景

  • 排查大模型推理中某个算子异常耗时的问题
  • 分析智能体多轮工具调用时的 GPU 空转与调度开销
  • 对比不同推理配置下的 GPU 内核级性能差异

替代项目

PyTorch Profiler、Nsight Systems、TensorBoard Profiler

上一篇:respan-gateway

下一篇:Hyperloom

同类项目推荐

rushdb 开源

推送 JSON,秒得可搜索、带关系的 AI 记忆库

RushDB is an open-source database for AI. It records fields, types and values on eve···

★ 325 2026-08-09
stock-sdk 开源

前端免后端,一行代码接入A股实时行情

为前端设计的无需 Python、无需后端服务、零依赖的获取股票数据 JavaScript SDK。

★ 1993 2026-08-09
cerul 开源

让 AI 记住视频内容,秒级检索关键画面

Open-source video processing core and CLI. Search and annotate local videos with you···

★ 166 2026-08-09
stable-diffusion-k8s 开源

在 Kubernetes 上快速部署 Stable Diffusion 推理服务

⚡Instant Stable Diffusion on k8s(Kubernetes) with Helm

★ 91 2026-08-09
raft 开源

GPU 加速的检索与机器学习算子库,开箱即用

RAFT contains fundamental widely-used algorithms and primitives for machine learning···

★ 1048 2026-09-16
gptGrok2api 开源

批量注册 ChatGPT/Grok 账号,自动转成 API 网关

ChatGPT/GPT 注册机|Grok 注册机|全自动纯协议注册,支持 OAuth、邮箱接码、账号池、代理···

★ 287 2026-08-09
awesome-ai-api-proxy 开源

一张清单,搞定所有AI模型中转站选型

One key. Every model. Anywhere. — A curated map of AI API relay stations & LLM gate···

★ 101 2026-08-09
ComputeLibrary 开源

Arm 平台上的 CV/ML 算子加速库,榨干 CPU 与 GPU 性能。

The Compute Library is a set of computer vision and machine learning functions optim···

★ 3200 2026-09-18
semantic-cache 开源

让缓存懂语义,相似查询秒命中,降低后端压力

A fuzzy key value store based on semantic similarity rather lexical equality.

★ 304 2026-08-09