微软 MAI-Base-2 缩放阶梯曝光:L42 约需 1.8×10^23 FLOPs

teortaxesTex · x · 2026-10-23

配图显示微软 MAI-Base-2 报告中的缩放阶梯(scaling ladder):以 L18–L42 四个中间检查点拟合曲线,可准确外推最终模型表现,并据此把建模效率从算力规模中剥离出来,以 DeepSeek-V4-Pro-Base 作为对照基准估算配方差距。

teortaxesTex 据此评论:微软认为 MAI-2 需要 42 层、约 1.8×10^23 FLOPs 的训练量,且架构相当保守;他怀疑 DeepSeek 若对每个候选模型都做这种缩放实验,算力预算可能吃紧。在后续回复中他补充,V4.1F 已比 V4.1 大一个数量级以上,更应该补画小尺寸点的外推曲线。