研究者称新方法在 batch size 上也胜过 Shampoo 优化器
_arohan_ · x · 2026-10-11
AI 研究者 Arohan 发推称「如今我们在 batch size 上也能赢过 Shampoo」。Shampoo 是一种二阶优化器,此前相关讨论多围绕训练速度/收敛效率;这条推文暗示其方法在 batch size 维度上也取得了优势。推文极简,未给出具体数据与对比细节。
所属事件:谷歌研究员称现有优化器已在大批量训练上超越 Shampoo(2 条相关)→
「研究」频道最新
- 哈佛医学院 ToolUniverse 工作坊:给 AI 配 2700 个科学工具造 AI 科学家 — marinkazitnik · 2026-10-11
- Mark Tenenholtz：RLVR 易得红利枯竭，「品味」类任务成下一前沿 — marktenenholtz · 2026-10-11
- ToolUniverse 集成 2900+ 科研工具,助 AI Agent 跑蛋白质设计 — marinkazitnik · 2026-10-11
- 把《致爱丽丝》映射成马尔科夫链：音乐与数学之美的可听化 — solyarisoftware · 2026-10-11
- 研究者吐槽：评测代码里大量函数只为修数据集而存在 — remilouf · 2026-10-11
- Bo Wang出席SF Tech Week医药AI论坛,热议虚拟细胞与AI药物 — BoWang87 · 2026-10-11