Marin 公开两版 scaling 预测对比:Paloma 误差 0.4% 远优于初版 1.9%
dlwh · x · 2026-10-27
dlwh 公开对比图,展示对同一 535B 运行(Hero 535B-A23B)的两版 held-out 预测:初版 Uncheatable 预测 RMS 误差 1.9%,而主力 Paloma 预测误差仅 0.4%(RMSE 0.00856 vs 0.0311 nats/token,46 次评测、无平滑)。他自嘲称此前在后续帖中说“我们会把预测做得更好”,然后放出的其实是早就握在手里的更好 Paloma 曲线。配图显示两条预测曲线在 120k–255k 训练步区间紧贴实测 loss。
所属事件:Marin 开源 scaling 套件 Delphi,作者修正预测误差降至 0.4%(8 条相关)→
「研究」频道最新
- Exponential 发布 RepoInject 与 BrowserInject 基准,测 prompt injection 防护 — maksym_andr · 2026-10-27
- Redwood 研究:CoT 可控性评测严重欠激发,简单提示优化可提升 2-3 倍 — dfrsrchtwts · 2026-10-27
- 用 BeamZ 逆向设计光学系统跑通 MNIST 分类 — S_Conradi · 2026-10-27
- DeCert 框架无需参考答案评估生成式奖励模型的论证质量 — Guiquan Sun · 2026-10-27
- 新研究:VLM harness 同样是组合泛化器,可拆解复杂图像问题 — a1zhang · 2026-10-27
- 新文呼吁启动 AI 界「人类基因组计划」加速可解释性研究 — ninamiolane · 2026-10-27