標籤

shared memory

shared memory 是 GPU CUDA 效能調校的核心區塊，常和 warp、bank conflict、cp.async、pipeline 一起討論。它決定資料能否快速在執行緒間共享，也影響 HBM 延遲能否被有效隱藏。

2 篇文章

NVIDIA 論壇聊 SU(7) CUDA 晶格引擎

NVIDIA Developer Forums 一篇貼文把 7×7×7 晶格、shared memory、warp 與 bank conflict 放在一起談。重點不是 SU(7) 名字多炫，而是 CUDA 真的吃不吃這套。

A100 上一次 HBM2e 載入約要 450 到 600 cycles。Ampere 的 cp.async 讓資料直進 shared memory，搭配 pipeline 把等待時間藏進計算裡。