Thinky FAQ 披露:Dimuon 优化器对 RL 无增益,建议只调学习率
eliebakouch · x · 2026-10-15
Thinky(Thinking Machines)的 Dimuon 优化器 FAQ 补充了几个关键问题的答案:在其实验中,跳过 SFT 直接做 RL 时,Dimuon 表现与 AdamW 基本相当,并未带来提升;切换训练阶段时优化器状态会重置,需用 createtrainingclientfromstatewithoptimizer 才能保留状态恢复;对 Dimuon 推荐只调学习率,训练不稳定多半是学习率过大,beta1 与 gradclipnorm 可暂不调。作者 eliebakouch 补充表示惊讶于 RL 结果不变,并提到 Jeremy 等人对优化器了解更深。
「Infra」频道最新
- TRL AsyncGRPO 上线 Tree Packing,同等奖励省 26 倍训练算力 — SergioPaniego · 2026-10-15
- JSSA 稀疏注意力：128K 上下文解码吞吐最高提升 6.43 倍 — SNU-VLSI · 2026-10-15
- 189 组基准实测：16GB 显存跑 Qwen3 27B 的 KV 量化怎么选 — Fancy-Snow7 · 2026-10-15
- 22 天内：Anthropic 签 150 亿美元算力、xAI 上线 600 万条目维基替代品 — sierracatalina · 2026-10-15
- Titan RTX 加 3090 混合双卡跑推理，值不值得上 Strata？ — Express_Quail_1493 · 2026-10-15
- ASML 三季度卖出 17 台 EUV 光刻机，单价最高 4 亿美元 — NinaDSchick · 2026-10-15