从零手写NVFP4内核，GB300上超cuBLAS 4.7%
pranjalssh · x · 2026-08-16
两年前，作者凭一篇「在 H100 上超越 cuBLAS」的博客踏入 GPU 优化领域，还意外掀起一波手写 Blackwell 内核的小热潮：有人用 MXFP8 做到 cuBLAS 的 99%，有人用 BF16 反超，Modular 团队也做了类似工作。如今他发布续作：在 GB300 节点(CUDA 13.1)上，用纯 CUDA + 内联 PTX 从零实现 NVFP4 GEMM，零框架依赖。
- 在经典的 8192×8192×8192 形状上比 cuBLAS 快 4.7%，并给出多个其他形状的成绩，代码已在 GitHub 开源。
- 之所以选 NVFP4，是因为它比其他精度更难：随着张量核指令越来越快，瓶颈转移到整条流水线如何「喂饱」它，最能施展极限 GPU 性能技巧。
- 这次拿出了比 Hilbert 曲线更好的新方案，能精确贴合 NVIDIA 硬件的布局。
- 整个内核 100% 由 Claude 生成(细节后续展开)。
作者希望借此激励大家把内核当作普通代码去掌控，而不是当作黑盒。
「Infra」频道最新
- Meta 选择 MLX 做本地推理,Muse Spark Open 登陆 Mac Studio — awnihannun · 2026-10-16
- Hugging Face 开源印度语系预训练管线:2.8 万亿 token 数据 — Hugging Face Blog · 2026-10-16
- Artificial Analysis 首测 Vera Rubin NVL72:每兆瓦吞吐最高达 GB300 的 5.7 倍 — ArtificialAnlys · 2026-10-16
- Vera Rubin NVL72 实测：每兆瓦吞吐最高达 GB300 的 5.7 倍 — ArtificialAnlys · 2026-10-16
- 英伟达 Vera Rubin NVL72 首批实测：每兆瓦吞吐最高达 GB300 的 5.7 倍 — ArtificialAnlys · 2026-10-16
- Turing Post 盘点 2026 年 14 款开源 LLM 可观测性工具 — TheTuringPost · 2026-10-16