PSDG 的 QEQ 更新规则与 KL+AIRM 完全相同

YouJiacheng · x · 2026-08-31

YouJiacheng 补充指出,令人惊讶的是,PSGD 的原始目标函数结合 QEQ 更新规则,竟然给出了与 KL+AIRM 完全相同的更新规则。这进一步揭示了该优化方法背后的数学联系。

所属事件:PSGD 目标函数被发现与 KL-Shampoo 数学等价(6 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →