贝叶斯证据能恢复 held-out loss 失效的维度,但前提是等数据量
BlackHC · x · 2026-09-09
作者继续展开线程:不断增长的信号正是贝叶斯证据能在 Bayesian PCA 中恢复维度信息的原因——而 held-out loss 在此场景会失灵(引 Lotfi et al. 2022)。
同时给出关键警告:这一结论只在等数据量(equal n)下成立。更简单的模型每条样本花更少 FLOPs,而扩展律把计算量放在 x 轴上,此时"面积"的含义就不同了。
所属事件:贝叶斯视角解读扩展律：代理尺度赢家为何在目标尺度翻车(10 条相关)→
「研究」频道最新
- Ben Lorica：别迷信 RSI，模型是租的、改进闭环才是资产 — bigdata · 2026-09-09
- 2000 年数学家断言七大难题「计算机完全无法企及」,如今看耐人寻味 — minilek · 2026-09-09
- 学者倡议各学科列出可数学化关键问题,借 AI 可验证性引爆科学革命 — ValerioCapraro · 2026-09-09
- 前 Tesla 工程师热议:Transformer 被迫预测自身并构建信念状态 — yacinelearning · 2026-09-09
- 开源 4B VLM 用 RL 练 GeoGuessr，单卡 A100 跑赢 GPT 与 Haiku — SergioPaniego · 2026-09-09
- 自监督聚类发现「最鸟的鸟」：粒度定义背后的哲学与 ImageNet 观察 — y_m_asano · 2026-09-09