Schmidhuber 论文 30 年后,平坦极小值仍无定论
fleetwood___ · x · 2026-07-29
30 年过去了,这条帖子直言:Schmidhuber 的 flat minima 论文提出的问题,社区至今仍没有搞清楚答案——平坦极小值到底是不是更容易泛化。
配图用“flat minimum”和“sharp minimum”做对照,点出深度学习里一个长期争论:损失景观的几何形状,究竟能不能可靠预测模型的泛化能力。
「研究」频道最新
- Nature 论文测得相变前后序参量的非高斯统计 — burny_tech · 2026-07-29
- Kimi K3技术报告解读:算力效率提升2.5倍的秘密 — alex_verem · 2026-07-29
- RG 视角解释泛化:神经网络学的是跨尺度相关结构 — burny_tech · 2026-07-29
- Quanta 讲述 2026 菲尔兹奖得主于登的严谨研究风格 — burny_tech · 2026-07-29
- 新 scaling law 发现:部分规模下重复训练胜过改写 — burny_tech · 2026-07-29
- 经验蒸馏复现:保住 44.1% 的代理 ICL 增益 — burny_tech · 2026-07-29