Study note

Nsight Compute Profiling Guide

Properties

Type
Blogs
Status
待读
Domain
AI / ML
Category
GPU、CUDA 与内核优化
Source
docs.nvidia.com
Vault note
library/articles/ai_ml/Nsight-Compute-Profiling-Guide-bd0768c406983ed5.md

Summary

NVIDIA Nsight Compute 官方 profiling 指南,解释 CUDA kernel 的性能计数器、采集方式、Roofline、occupancy、memory workload、scheduler/warp stall 与源码级分析方法。

Highlights

用于回答“热点 kernel 为什么慢”。建议围绕一个 reduction、Softmax 或 GEMM 固定输入与基线,依次检查执行时间、算术强度、显存吞吐、活跃 warp、寄存器/共享内存压力和主要 stall 原因,而不是孤立追求某个指标达到 100%。

Comments

Loading comments...