三种"最佳"判据分离速率不同:LOO-CV 不一致,总面积无界增长
BlackHC · x · 2026-09-09
作者给出贝叶斯视角的定量结果:在损失下限相同的情况下,三种判据以不同速率区分模型(Δλ 为模型复杂度差):
- 终点(final height):差距 Δλ/N,趋于消失——LOO-CV 不一致(Shao 1993)
- 后半段尾面积:差距 Δλ·log 2,恒定
- 总面积:差距 Δλ·log N,无界增长
结论:"最佳模型"这一说法不完整,必须先说明你看重学习(和部署)过程的哪个部分。完整文章含精确恒等式、排序翻转结果、交叉背后的机制、玩具实验与交互面板。
所属事件:贝叶斯视角解读扩展律:代理尺度赢家为何在目标尺度翻车(10 条相关)→
「研究」频道最新
- Ben Lorica:别迷信 RSI,模型是租的、改进闭环才是资产 — bigdata · 2026-09-09
- 2000 年数学家断言七大难题「计算机完全无法企及」,如今看耐人寻味 — minilek · 2026-09-09
- 学者倡议各学科列出可数学化关键问题,借 AI 可验证性引爆科学革命 — ValerioCapraro · 2026-09-09
- 前 Tesla 工程师热议:Transformer 被迫预测自身并构建信念状态 — yacinelearning · 2026-09-09
- 开源 4B VLM 用 RL 练 GeoGuessr,单卡 A100 跑赢 GPT 与 Haiku — SergioPaniego · 2026-09-09
- 自监督聚类发现「最鸟的鸟」:粒度定义背后的哲学与 ImageNet 观察 — y_m_asano · 2026-09-09