贝叶斯视角：模型复杂度差决定三种分离速率，LOO-CV 不一致
BlackHC · x · 2026-09-09
BlackHC 讨论模型选择中的损失分离速率问题：在相等损失下界下，模型以三种不同速率分离（Δλ 为模型复杂度差）。
- 最终高度：差距约 Δλ/N，对应 LOO-CV 不一致（引 Shao 1993）
- 后半段尾部：约 Δλ·log 2，为常数
- 总面积：约 Δλ·log N，随 N 无界增长
作者指出，在讨论「最优模型」前必须先明确我们看重学习（和部署）的哪个部分。完整推导包括精确恒等式、翻转顺序结果、交叉背后的机制区段，以及玩具实验和交互面板，见原帖链接。
所属事件:贝叶斯视角解读扩展律：代理尺度赢家为何在目标尺度翻车(10 条相关)→
「研究」频道最新
- Ben Lorica：别迷信 RSI，模型是租的、改进闭环才是资产 — bigdata · 2026-09-09
- 2000 年数学家断言七大难题「计算机完全无法企及」,如今看耐人寻味 — minilek · 2026-09-09
- 学者倡议各学科列出可数学化关键问题,借 AI 可验证性引爆科学革命 — ValerioCapraro · 2026-09-09
- 前 Tesla 工程师热议:Transformer 被迫预测自身并构建信念状态 — yacinelearning · 2026-09-09
- 开源 4B VLM 用 RL 练 GeoGuessr，单卡 A100 跑赢 GPT 与 Haiku — SergioPaniego · 2026-09-09
- 自监督聚类发现「最鸟的鸟」：粒度定义背后的哲学与 ImageNet 观察 — y_m_asano · 2026-09-09