Study note

PTX ISA: Asynchronous Copy Instructions

Properties

Type
Blogs
Status
待读
Domain
AI / ML
Category
GPU、CUDA 与内核优化
Source
docs.nvidia.com
Vault note
library/articles/ai_ml/PTX-ISA-Asynchronous-Copy-Instructions-24078469ee974109.md

Summary

PTX ISA 中异步拷贝章节的官方参考,覆盖 `cp.async`、commit/wait group、mbarrier completion、`cp.async.bulk`、bulk prefetch、multimem bulk copy,以及面向多维 tensor 的 `cp.async.bulk.tensor` 等指令及其内存语义、架构要求和示例。

Highlights

这是理解 Ampere `cp.async`、Hopper TMA 和 CUDA pipeline 最底层的权威资料,能明确区分普通异步 copy、bulk/tensor copy 与 group/mbarrier 完成机制。适合先读 CUDA Programming Guide 的异步流水线,再按实际 kernel 中出现的 PTX 指令查阅,不建议从头通读整份 ISA。

Notes

NVIDIA PTX 异步数据搬运指令参考。

Comments

Loading comments...