NeurIPS Spotlight:双速度学习重新解释 grokking 与 double descent

s_y_chung · x · 2026-11-11

(线程末帖)作者指出,同样的测量手段还能识别虚假的泛化动力学:此前报道的 MNIST grokking 例子和 label-noise double descent 例子,其实源于非标准训练配方下的表征退化和读出层错位——在标准训练下这些特征会消失。这意味着文献中部分 grokking/double descent 现象可能是训练配方伪影而非普遍规律。

所属事件:「双速学习」论文统一解释 grokking 与双下降(5 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →