两篇优化新论文:SGD 最优步长理论与随机 Rayleigh-Ritz 全局收敛
prof_grimmer · x · 2026-11-02
数学优化账号转发两篇新上 arXiv 的优化理论论文:
- Exact Theory and Optimal Stepsizes for Stochastic Gradient Descent(arXiv:2610.42048):针对随机梯度下降给出精确理论与最优步长分析。
- Stochastic Rayleigh-Ritz Ascent(arXiv:2610.42071):证明该方法在特定条件下具有全局线性收敛性。
两篇均为优化/训练理论方向的基础研究,转发未附更多细节。
所属事件:新论文精确刻画 SGD 最优步长调度(4 条相关)→
「研究」频道最新
- Frank Calegari 撰文:数学已改变,数学界应主动拥抱 AI 而非悲伤 — littmath · 2026-11-03
- 前谷歌训练大佬 Rohan Anil 实测跨洋 25Gbps 双集群训练 MoE 模型 — _arohan_ · 2026-11-03
- ICSE 2027 LLM4Code 工作坊开放投稿,11月13日截止 — LingmingZhang · 2026-11-03
- 博主称 AI 推翻指数时间假设,两周内触及 BTC/ETH 密钥曲线 — LeviTurk · 2026-11-03
- 亚马逊等机构发布 HULK:Unitree G1 人形机器人能拉 300 公斤重车 — CyberRobooo · 2026-11-02
- 从专家系统到基础模型:一条长推讲清 PEFT 为何成为必选项 — anshulkundaje · 2026-11-02