Tinker 推出 LoRA 微调新优化器 Dimuon,SFT 收敛快于 AdamW
simonguozirui · x · 2026-10-15
Thinking Machines 的 Tinker 团队发布了专为 LoRA 微调打造的新优化器 Dimuon。在 SFT 测试中,Dimuon 常能在更少步数内达到比 AdamW 更低的 loss。团队仍在实验中,用户现可在 Tinker 上试用,官方还发布了优化器指南供参考。
所属事件:Thinking Machines 发布 LoRA 微调新优化器 Dimuon(2 条相关)→
「模型」频道最新
- Google 用 Gemini 4 Argon 重构 Chromium,数月工作数周完成 — CatAstro_Piyush · 2026-10-15
- Artificial Analysis 发布决策模型榜单：四项评测各占 25% 权重 — kalyan_kpl · 2026-10-15
- Intern-S2 助攻数学论文，作者称经多轮对话发展论证思路 — teortaxesTex · 2026-10-15
- Runway CEO 眼神回应:Runway 抢在 DeepMind 前实现世界模型理论 — c_valenzuelab · 2026-10-15
- 开发者实测 Argon 上线生产环境:数据分析强于 Opus 且更便宜 — bindureddy · 2026-10-15
- Gemini 4 Argon FrontierMath 仅 78%，Qwen3.8 Max 仍是中国最强 — teortaxesTex · 2026-10-15