研究者讨论优化器等变性：无需正交性的新论证更有说服力
jasondeanlee · x · 2026-11-10
研究者 Jason Lee 与 Jianlin 就某项研究（疑似关于优化器几何性质的工作）展开讨论。
Jason Lee 先前对论文提出疑问：不太确定由 w₁ᵀg₁ = w₂ᵀg₂ 如何推出近似的 w₁ᵀg₁ = 0 = w₂ᵀg₂。随后他读到论文中关于优化器具有等变性（equivariant）的注释，指出等变性并不需要正交性假设，并认为「这个论证更有说服力」。
「研究」频道最新
- Quanta 深挖 LLM 内省研究:向模型注入「想法」测试自我认知 — burny_tech · 2026-11-10
- 两篇 CoRL 论文把 VLA 推理提速 2.4× 和 4.7×,实现机械臂实时控制 — songhan_mit · 2026-11-10
- 四本免费数学书打底 ML:线代、概率、优化、信息论各一本 — cneuralnetwork · 2026-11-10
- 机器学习数学四本免费书单：线代、概率、优化、信息论 — cneuralnetwork · 2026-11-10
- Meta FAIR 提出 e-means：1/10 轮次超越 k-means，GPU 提速最高 45 倍 — burny_tech · 2026-11-10
- 梯度归因难以可靠过滤「阈下学习」，NeurIPS 论文给出实证 — ponguru · 2026-11-10