线性模式连通性引发热议与发现归属之争

Google 研究员 Aparna 称线性模式连通性是训练神经网络最被低估的特性之一,并回顾自己四年前发现的现象:测试损失在参数空间中沿线性路径保持平坦,而训练损失却并非如此。随后 roydanroy 澄清历史脉络,指出 Vaishnavh 对测试损失的观察早于 2019 年 Frankle 等人的论文,最早发现并非出自 Frankle,引发关于该现象归属的讨论。

2026-09-28 ~ 2026-09-29 · 2 条相关