nsight-perf-sdk-for-ai

常开低开销追踪 GPU 性能,导出 Perfetto 看时间线

开源 🏷️完全免费 ⏳ 访问状态待核验 基础设施 🍴 复刻 8 👀 关注 1
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 116
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 NVIDIA官方SDK,免费下载使用

项目预览

nsight-perf-sdk-for-ai 项目界面预览图
图片来源:项目官网

项目数据

分类基础设施
开发团队NVIDIA
定价模式🏷️完全免费
价格说明NVIDIA官方SDK,免费下载使用
访问状态⏳ 访问状态待核验
是否开源是
开源协议Apache-2.0
主要语言CMake
技术栈/模型ai-infrastructure,cpp,cuda,developer-tools,gpu,nvidia,nvtx,observability,perfetto,performance,profiling,sdk,tracing
GitHub 星标★ 116
上线时间2026-11-03 00:00:00
代码更新2026-11-17
仓库体积47 KB
本站数据更新2026-11-20
维护状态活跃
收录时间2026-11-20
浏览次数0

项目介绍

NVIDIA 推出的 GPU 与 CUDA 性能追踪 SDK,面向 AI 训练和推理负载,主打常开、低开销的持续观测。它通过 C++ 客户端 API 在应用内埋点,采集 GPU 内核执行、CUDA 调用、NVTX 标注等性能事件,并提供命令行工具进行采集控制与数据查看。项目采用开放数据模型,避免厂商锁定,采集结果可导出为 Perfetto 格式,在 Perfetto UI 中做时间线分析。相比传统一次性 profiler 需要专门复现问题,该 SDK 定位是生产环境常驻的轻量追踪,帮助定位训练卡顿、内核耗时异常、显存与调度瓶颈。对做 AI 基础设施、推理服务性能优化的团队,它提供了从埋点到可视化分析的完整链路,适合集成进自有监控平台。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-11-20 · 当前星标 ★ 116

核心亮点

  • 常开低开销设计,适合生产环境持续采集而非一次性复现
  • 提供 C++ 客户端 API 与 CLI 工具,便于集成到自有服务和流水线
  • 开放数据模型并支持 Perfetto 导出,分析端可复用成熟可视化工具

不足之处

  • 早期项目,星标与生态尚小,文档和示例覆盖待完善
  • 强依赖 NVIDIA GPU 与 CUDA 环境,非 NVIDIA 平台不可用

适用场景

  • AI 训练任务中持续监控 GPU 内核耗时与调度异常
  • 推理服务上线后做低开销性能回归与瓶颈定位
  • 将 GPU 追踪数据接入自建可观测平台做统一分析

替代项目

Nsight Systems、PyTorch Profiler、Perfetto

上一篇:agentdb

下一篇:forceinjection.github.io

同类项目推荐

NeuroAPI 开源

俄罗斯开发者一键接入全球主流 AI 模型,绕过支付和地域限制。

NeuroAPI: российский AI API для Codex CLI и Claude Code — безопа···

★ 1318 2026-08-09
memsearch 开源

给 AI 智能体装上长期记忆,跨会话秒级召回关键信息

A persistent, unified memory layer for all your AI agents (e.g. Claude Code, Codex, ···

★ 2907 2026-08-09
router 开源

换一个端点,50 毫秒内自动选对模型,成本直降 70%

Model router for agentic systems. Routes every prompt to the right model in <50ms. C···

★ 5625 2026-08-09
recipes 开源

照抄配方,几分钟跑通 vLLM 推理服务

Common recipes to run vLLM

★ 1093 2026-10-14
cligate 开源

一个网关,统一管理所有 AI 工具和模型,省心又安全。

Private AI assistant, AI agent, and unified model proxy for Claude Code, Codex CLI, ···

★ 135 2026-08-09
local-studio 开源

一个面板管住本地所有大模型推理引擎

Control panel for VLLM, Sglang, llama.cpp, exllamav3

★ 1850 2026-10-14
zvec 开源

把向量检索嵌进进程,毫秒级响应,部署零负担

A lightweight, lightning-fast, in-process vector database

★ 16269 2026-08-09
tokenmaxxing 开源

同步你的 token 用量,让团队消耗一目了然

A local CLI, built on ccusage, that syncs your token usage with everyone else.

★ 96 2026-08-09