MAI-Base-2 泄露数据全文:eval scaling law 拟合参数与训练轨迹完整曝光

YouJiacheng · x · 2026-10-17

YouJiacheng 把从 MAI-Base-2 博客源码中扒出的数据传到了 Pastebin:这是一份「eval scaling law 交接文件」,包含拟合参数(E≈0.696、A≈0.428、alpha≈0.177、C0=1e22)、五个 ladder 阶梯 rung(L18–L42,对应 log10 FLOPs 21.3–23.3)的验证损失,以及主 run MAI-Base-2 从约 24.67 到 25.38 log10 FLOPs 的完整 eval 轨迹和最终权重混合比例(code 0.450、math 0.158、general 0.090 等)。

这份数据让外界得以直接检视微软中间 checkpoint 的损失曲线和 scaling 拟合,对研究 scaling law 和数据混合策略的人是难得的一手材料。

所属事件:微软 MAI-Base-2 博客源码泄露 scaling 中间数据(3 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →