Tinker 发布新优化器 Dimuon:LoRA 微调少步数下损失低于 AdamW
miramurati · x · 2026-10-15
Mira Murati 转发了 Tinker 的两条动态:
- 新优化器 Dimuon:专为 LoRA 微调打造,在 SFT 测试中常以更少步数达到比 AdamW 更低的 loss,目前仍在实验阶段,用户可在 Tinker 平台直接试用并反馈,官方还附了优化器指南。
- 招人:Tinker 正在招聘研究员与 infra 专家。
Dimuon 值得微调实践者关注——若宣称成立,意味着 LoRA 微调的训练效率有现成的新选择。
所属事件:Thinking Machines 发布 LoRA 优化器 Dimuon(4 条相关)→
「公司和人」频道最新
- NVIDIA 将亮相 SIGGRAPH Asia 2026，聚焦神经渲染与机器人 — tomaszbednarz · 2026-10-15
- Anthropic IPO 文件曝 5180 亿美元支出承诺，背后是有效利他主义信仰体系 — examachine · 2026-10-15
- Meta 超级智能实验室 200+ 直属下属：Alexandr Wang 的扁平化实验 — CurieuxExplorer · 2026-10-15
- AI 语音应用 Tolan 悄然征服千禧代女性，营销人呼吁科技别只讨好 22 岁 — ajaymehta · 2026-10-15
- rakyll 谈 Google 独特文化：创始人设计的自我纠错机制 — rakyll · 2026-10-15
- AI 接管购物入口：品牌 agent 研讨会探讨电商新战场 — annetgriffin · 2026-10-15