YouJiacheng 勘误 PSGD-QEQ:特征空间中梯度与 KL-AIRM 仅差一个步长

YouJiacheng · x · 2026-09-10

YouJiacheng 对此前 PSGD 优化的讨论做出更正:他发现该梯度并非真正唯一,而是恰好被几何差异抵消。通过推导 dp=d(q²)=2qdq=-2q²r=-2pr,可证 PSGD-QEQ 与 KL-AIRM 在特征空间中(p 的研究所在空间内所有运算可交换)至多相差一个步长。

所属事件:PSGD 优化讨论勘误:KL-AIRM 梯度差异仅剩一个步长(2 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →