实测 Blackwell:mxfp6 吞吐仅略高于 mxfp8,fp4 GEMM 快得多

AnushElangovan · x · 2026-11-19

有人在 Blackwell GPU 上实测 mxfp6 精度的 GEMM:吞吐只比 mxfp8 略高,而 (mx/nv)fp4 的 GEMM 则明显快于两者。转发者补充:如果有 MI355 也可以做同样实验,mxfp6 的表现会更接近 mxfp4。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →