Thinking Machines 推出 Dimuon 优化器:LoRA 微调比 AdamW 更快收敛
clarejtbirch · x · 2026-10-15
Thinking Machines(Tinker API)发布新优化器 Dimuon,是 Muon 的变体,专为 LoRA 微调设计。在 SFT 测试中,它常能以更少步数达到比 AdamW 更低的 loss。团队仍在持续实验,用户现在即可在 Tinker 上试用并反馈。John Schulman 曾表示「花算力来省客户的算力」有多种方式,这就是一例。
所属事件:Thinking Machines 发布 LoRA 优化器 Dimuon(4 条相关)→
「模型」频道最新
- Paper Instruments 发布 Ultramarine 1 Flash:用 RL 训练不可验证知识工作 — lmoroney · 2026-10-15
- OpenAI Codex 负责人预告「重置」回归:Day 10 将在两小时内上线 — BMarinov · 2026-10-15
- SaaSletter:企业 AI 风险指标两年涨 9.3 倍,或预示 Anthropic 营收走势 — thedealdirector · 2026-10-15
- 网友爆料:Anthropic 疑似训练模型打游戏,Opus 5.5 游戏表现超 Astra — imjustnewatai · 2026-10-15
- Maya-2 开源发布:印度语系语音模型登顶 Hindi TTS 榜单 — CurieuxExplorer · 2026-10-15
- 模型或能纯靠文本指纹识别 AI 生成内容,评测沙箱面临被识破风险 — scaling01 · 2026-10-15