Study note

GPU Performance Background User's Guide

Properties

Type
Blogs
Status
待读
Domain
AI / ML
Category
GPU、CUDA 与内核优化
Source
docs.nvidia.com
Vault note
library/articles/ai_ml/GPU-Performance-Background-User's-Guide-2ecbeeabff498bef.md

Summary

从 GPU、SM、CUDA Core、Tensor Core 和线程块执行模型讲起,用 FLOPS、显存带宽、算术强度与并行度分析 kernel 和深度学习算子为何受计算、内存或延迟限制。

Highlights

篇幅短,能快速建立单卡 GPU 性能分析框架;适合作为本清单的第一项,再衔接 CUDA 和多卡 scaling 资料。

Notes

NVIDIA 的单卡 GPU 性能基础指南。

Comments

Loading comments...