mamf-finder 升级:支持 FP8/MXFP4/NVFP4 实测 GPU 真实 TFLOPS

StasBekman · x · 2026-10-03

Stas Bekman 更新了 ml-engineering 项目中的 mamf-finder 基准工具,新增对多种精度的支持:bfloat16、float16、float32、float8e4m3fn、float8e4m3fnuz、mxfp8、mxfp4、nvfp4,可用于测量各种负载下 GPU 的"真实 100% TFLOPS"。

配套文档解释了准确测速的关键细节:kernel 时间不只取决于张量形状,流经 GEMM 的数值本身会影响芯片负载并反馈到时钟频率——高熵比特模式比稀疏/全零模式翻转更多晶体管、功耗更高,一旦触及功耗墙就会降频。这正是锁定 GPU/显存时钟很重要的原因。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →