Marin 公开两版 scaling 预测对比:Paloma 误差 0.4% 远优于初版 1.9%

dlwh · x · 2026-10-27

dlwh 公开对比图,展示对同一 535B 运行(Hero 535B-A23B)的两版 held-out 预测:初版 Uncheatable 预测 RMS 误差 1.9%,而主力 Paloma 预测误差仅 0.4%(RMSE 0.00856 vs 0.0311 nats/token,46 次评测、无平滑)。他自嘲称此前在后续帖中说“我们会把预测做得更好”,然后放出的其实是早就握在手里的更好 Paloma 曲线。配图显示两条预测曲线在 120k–255k 训练步区间紧贴实测 loss。

所属事件:Marin 开源 scaling 套件 Delphi,作者修正预测误差降至 0.4%(8 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →