线性模式连通性引发热议与发现归属之争
Google 研究员 Aparna 称线性模式连通性是训练神经网络最被低估的特性之一,并回顾自己四年前发现的现象:测试损失在参数空间中沿线性路径保持平坦,而训练损失却并非如此。随后 roydanroy 澄清历史脉络,指出 Vaishnavh 对测试损失的观察早于 2019 年 Frankle 等人的论文,最早发现并非出自 Frankle,引发关于该现象归属的讨论。
2026-09-28 ~ 2026-09-29 · 2 条相关
- 线性模式连通性:测试损失上出现、训练损失上却没有的被低估现象 — _arohan_ · 2026-09-28
- 线性模式连通性谁先发现?Vaishnavh 的测试损失观察早于 2019 论文 — roydanroy · 2026-09-29