作者复盘 Hero scaling 预测修正全过程:不用 535b 损失也能拟合
dlwh · x · 2026-10-27
dlwh 承认修正属于事后复盘,但强调方法就是此前 Paloma 拟合的做法,无需用到 Hero 535b 的损失数据,代码与上下文已开源在 GitHub(marin-community/marin-logbooks issue #8)。关键数据:统一采用 Paloma 口径并从 TPU ladder 与 27 个 Delphi 端点拟合共享下限得 1.4242,在 Hero 轨迹上 RMSE 0.00859;而 Paloma 口径配旧下限 1.4 反而恶化到 0.06191;两法结合后 RMSE 降至 0.00647,且不需要架构特定的下限偏移。修正后的 4K 条件终点损失约 1.497(原 390,251 步预算)。
所属事件:Marin 开源 scaling 套件 Delphi，作者修正预测误差降至 0.4%(8 条相关)→
「研究」频道最新
- arXiv 避坑提示续：分类器推荐不同主分类时应接受，否则几乎必被搁置 — tdietterich · 2026-10-27
- arXiv 积压超 4000 篇论文被搁置，版主致歉并给出避坑建议 — tdietterich · 2026-10-27
- CoreWeave 三周 RL 后训练:BrowseComp 提升 22.9%,工具调用省三成 — RichardSocher · 2026-10-27
- 开源决策模型打《红色警戒2》：先卖基地后自瞄自炸，训练后无人能敌 — heathercmiller · 2026-10-27
- DeepMind 论文：LLM 无法自行随机采样，需外部传入随机数 — rohanpaul_ai · 2026-10-27
- 世界模型新玩法：物体赋重量摩擦系数，物理引擎推演机器人动作 — jonstephens85 · 2026-10-27