手写 CuTe DSL Blackwell GEMM 达 1401 TFLOP/s,约 97% cuBLAS 水平
retr0jirachi · x · 2026-10-03
开发者 KyrieBlunders 分享:在 B200 上用 CuTe DSL 手写 Blackwell GEMM 内核,性能从 164 TFLOP/s 提升到 1401 TFLOP/s,约为 cuBLAS 的 97%。展示了手写内核经过优化后可以逼近官方库性能。
「Infra」频道最新
- The Daily Diff 新增 PDF 版,精选 GPU 推理优化与 KV 缓存复用好文 — arpit_bhayani · 2026-10-03
- ERRC 用压缩通信省带宽补偿量化误差,加速张量并行 LLM 推理 — PyTorch · 2026-10-03
- 开发者平台宣布降价一半,GitHub Action runner 降至 12 倍便宜 — aniketmaurya · 2026-10-03
- TP=4 提速 5%:让 LLM 在 SM120 上启用 CustomAllReduce — TheZachMueller · 2026-10-03
- 图灵奖得主 Patterson:太阳能成本曲线近乎垂直下坠,将驱动奇点 — davidpattersonx · 2026-10-03
- 24GB 显存党实测:Strata 量化 MoE 让 Qwen Flash 取代 27B 稠密模型 — soyalemujica · 2026-10-03