NeurIPS Spotlight:双速度学习重新解释 grokking 与 double descent
s_y_chung · x · 2026-11-11
(线程末帖)作者指出,同样的测量手段还能识别虚假的泛化动力学:此前报道的 MNIST grokking 例子和 label-noise double descent 例子,其实源于非标准训练配方下的表征退化和读出层错位——在标准训练下这些特征会消失。这意味着文献中部分 grokking/double descent 现象可能是训练配方伪影而非普遍规律。
所属事件:「双速学习」论文统一解释 grokking 与双下降(5 条相关)→
「研究」频道最新
- Fable 5.2 登顶 GDPx 芯片设计榜,出题方自曝其任务零提升 — ycombinator · 2026-11-11
- 理论计算机科学家问 Claude:新证明中关键变量的复杂度是 Promise-BQP 完全 — fortnow · 2026-11-11
- 改写不到 10 个休眠神经元即可给 LLM Agent 植入后门 — DimitrisPapail · 2026-11-11
- 杜克普林斯顿论文:100 个 agent 拆成 10 支小队并行,胜过单队和单 agent — rohanpaul_ai · 2026-11-11
- Deletion Tuning:只清零 0.05% 权重即可媲美全量微调 — Thrumpwart · 2026-11-11
- JHU/MIT 开源 OpenTac:柔性 PCB 触觉皮肤可自动覆盖任意机器人表面 — _krishna_murthy · 2026-11-11