无需特征值分解的新优化器:结合 PSGD-Kron 与 KL-Shampoo
YouJiacheng · x · 2026-08-26
研究人员结合 PSGD-Kron 的 $\Sigma^{-1/2}$ 乘法更新与 KL-Shampoo 的目标函数,提出了一种无需特征值分解、求逆或求解线性方程组的新型优化器。该方法参数化 $P=R.T@R$,通过最小化 KL 散度 $KL(N(0, \Sigma), N(0, P^{-2}))$ 进行更新。作者表示相关工作由 GPT Pro 辅助完成。
所属事件:研究者借助 GPT Pro 融合 PSGD-Kron 与 KL-Shampoo 推出免分解优化器(4 条相关)→
「研究」频道最新
- Light Origins 发布通用导航大脑 LightNav-0,支持任何机器人 — teortaxesTex · 2026-08-26
- 俄勒冈州立大学新研究:测试因果图中的测量误差 — yudapearl · 2026-08-26
- CoRL 2026 智能体机器人研讨会征稿,无需论文即可演示 — GuanyaShi · 2026-08-26
- Prime Intellect 提出智能体四级记忆架构 — ChrisGPT · 2026-08-26
- NTU 将办 2026 几何动力学与学习会议 — FrnkNlsn · 2026-08-26
- DeepSeek V4 评测:强于 CVE 查找,弱于幻觉控制 — teortaxesTex · 2026-08-26