线性模式连通性谁先发现?Vaishnavh 的测试损失观察早于 2019 论文
roydanroy · x · 2026-09-29
关于「线性模式连通性」(linear mode connectivity, LMC) 的归属之争,作者 roydanroy 澄清历史脉络:
- 最早观察并非出自 Frankle 与 Dziugaite 等 2019 年论文,而是 @vaishnavh 更早的工作,且当时是在交换训练数据后的测试损失上观察到的;LMC 这一名称直到 2019 年才出现。
- Frankle 等 2019 年的定义针对训练损失,但作者团队当时也明确在测试集上观察到了 LMC(并认为写进了摘要)。
- 此后相关研究已有很多,作者认为这是训练神经网络被低估的特性之一。
所属事件:线性模式连通性引发热议与发现归属之争(2 条相关)→
「研究」频道最新
- Google 开源 PaperOrchestra:多 Agent 自动写 AI 研究论文 — google-research · 2026-11-16
- ICLR 审稿人未被打动仍提分:因相信论文对社区有价值 — MarkSchmidtUBC · 2026-11-16
- 手改0.2%权重加CPU训练100分钟,英语TTS模型变身18MB梵语语音 — kastnerkyle · 2026-11-16
- 为什么 AI 做化学必须懂手性:对映异构体在生物体内并不等价 — madeofAjala · 2026-11-16
- RSS 2027 投稿开启:两阶段评审 FAQ 澄清负面结果标准 — GeorgiaChal · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16