开发者实测 Blackwell GPU 的 MXFP6 量化：仅指令集支持无原生加速

AlpinDale · x · 2026-08-02

开发者 AlpinDale 在 dphnAI/sonar 项目中提交了针对 SM110（Blackwell 架构）的原生 MXFP6 量化支持。该 PR 实现了在线量化功能，可以直接加载常规的 BF16 模型并转换为 MXFP6 格式运行。

作者指出，尽管 MXFP6 据称在 Blackwell GPU 上受支持，但目前仅停留在 ISA（指令集架构）层面，似乎缺乏原生的硬件加速。实测来看，这更像是一个有趣的“小把戏”，虽然比 FP8 略快且更省显存，但整体加速效果有限。