Vovk 短文给出模型复杂度与拟合度的集中性定理
_onionesque · x · 2026-11-22
作者 onionesque 讨论 Vladimir Vovk 的一篇短文,核心结果是关于模型复杂度(以 Kolmogorov 复杂度刻画)与拟合优度之间权衡的集中性定理(concentration theorem)。
要点:
- 作者认为该结果与 Szemerédi 正则性引理(regularity lemma)衍生出的「正则性哲学」一脉相承:结构都可分解为伪随机成分与可结构化成分。
- 但存在关键差异:在正则性引理框架下,伪随机成分可以同时保持算法可压缩性;而在 Vovk 的设定中两者不能共存。
对机器学习理论、最小描述长度(MDL)与算法信息论交叉领域的研究者有参考价值。
所属事件:Vovk 发新论文:非随机对象的通用测度趋于零(2 条相关)→
「研究」频道最新
- DINOv3 patch 特征默认强编码位置信息,实测建议先清理再用 — StephanSturges · 2026-11-22
- 黎曼猜想 Lean 4 形式化挑战上线:追踪证明压缩与模型 agent 基准 — flngr · 2026-11-22
- Kalshi 预测市场:54% 押注 P vs NP 2030 年前被解决,概率跳涨 — ricklamers · 2026-11-22
- OpenAI 证明文件现超线性电路下界,Fortnow 称 P vs NP 仍远未解决 — thomasahle · 2026-11-22
- 一张图测八款 VLA:仅 3 个答对,ERQA 基准遭质疑题目本身存疑 — giffmana · 2026-11-22
- 曙光8000十万卡集群斩获戈登·贝尔奖,异构节点性能达纯CPU三倍 — 智东西 · 2026-11-22