NVFP4 原生 4-bit 训练带来 8% 预训练与 20% RL 时钟加速

snowclipsed · x · 2026-11-14

博主转发并质疑该配方是否在专家层使用 MXFP8,同时贴出博客另一段配图:在大规模训练中,该配方相比全 MXFP8 训练提供约 8% 预训练时钟加速和 20% RL 加速,且量化检查点交付时无需校准。

所属事件:Thinking Machines 详解 Inkling 2 Small 全程原生 4-bit 训练(7 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →