Modal 发布硬核 GPU 术语表，涵盖硬件到软件全栈

charles_irl · x · 2026-08-01

Modal 和 @charlesirl 联合制作了一份详尽的 GPU Glossary（GPU 术语表），获得了开发者社区的高度评价，被认为非常适合引导初学者深入探索底层细节。

该资源系统性地梳理了 GPU 相关的核心概念，主要包含以下几个维度：

设备硬件：如流多处理器 (SM)、Tensor Core、Tensor Memory Accelerator (TMA) 及各类缓存架构。
设备软件与编程模型：涵盖 CUDA 编程模型、SASS/PTX 指令集、Thread、Warp、Block 层次结构及 Memory Hierarchy。
主机软件栈：包括 CUDA Driver/Runtime API、NVML、Nsight Systems 以及 cuBLAS、cuDNN、CUTLASS 等关键库。
性能分析：深入探讨 Roofline Model、Compute-bound 与 Memory-bound、Occupancy、Warp Divergence 等性能调优指标。

「Infra」频道最新