GPU 编程学习日志:精读 CUDA matmul 优化经典与 MIT 稀疏性课程
NandoDF · x · 2026-09-20
一位持续 365 天学习 GPU 编程的开发者分享了两个学习资源:
- Day 259:精读 Simon Boehm 2022 年的经典博客《How to Optimize a CUDA Matmul Kernel for cuBLAS-like Performance》,这是除 PMPP 教材和 GPU Mode 之外被推荐最多的 GPU kernel 学习资料。作者更看重的是学习优秀性能工程师逐步优化 kernel 的思维方式,而非最新技巧。
- Day 258:学习 MIT《Efficient AI Computing》第 3 讲,覆盖硬件稀疏性支持、剪枝粒度、N:M 稀疏性与 scaling factors,作业可在 Colab 上练习。
「Infra」频道最新
- 数据折射数据中心缴税真相：十亿美元设施各地税率差异显著 — AndyMasley · 2026-09-20
- AMD 为 Kimi-K3 做重磅软件优化，国产模型硬件适配提速 — AccBalanced · 2026-09-20
- 内存价格半年从350涨到640美元，个人换机越来越难 — chrisalbon · 2026-09-20
- NVIDIA 工程师详解 DeepSeek V4.1 Flash 为速度重构架构 — thursdai_pod · 2026-09-20
- 140 美元捡漏 AMD MI50：老平台加卡跑 30B 模型提速近 9 倍 — tabletuser_blogspot · 2026-09-20
- halogen 0.12.0 让 Strix Halo 跑百万上下文解码提速至 38 tok/s — peonist-ai · 2026-09-20