Orabona 撰文驳 AdaGrad 预条件化解释:全矩阵界限常不如标量学习率

bremen79 · x · 2026-11-18

优化理论知名学者 Francesco Orabona 发布新博文《The Wrong Explanation of Preconditioning》,挑战深度学习圈关于预条件化(preconditioning)的主流叙事。

对理解 Shampoo 等矩阵式优化器的理论根基有直接参考价值。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →