CUDA 分块矩阵乘法提速 1.56 倍
retr0jirachi · x · 2026-07-17
CUDA 学习系列第 4 天讲的是 **tiled matmul**。 核心思路是：不要反复从全局内存读取同一块数据，而是先把一个 tile 放进 **shared memory**，让整个 block 重复利用，从而减少无效读写。 作者给出的实测结果是：这种写法在自己的 **T4** 上比朴素实现快了 **1.56x**，不过他也提醒，**L2 缓存已经掩盖了不少浪费**，所以提升没有理论上看起来那么夸张。