从 muP 到概率神谕：理论先行方法设计引热议

围绕「科学中实证是否总先于理论」的讨论，有作者以深度学习为例主张理论先行同样有效，并回看 Greg Yang 与 Edward J. Hu 在 ICML 2021 发表的 muP 奠基论文 Tensor Programs IV。该工作通过 Maximal Update Parameterization 让无限宽网络真正学到特征，被视为理论构建先于零散试错的典型案例。

2026-11-10 ~ 2026-11-10 · 2 条相关