预注册训练曲线预测:TabPFN 14 个后续检查点全部命中
ZimingLiu11 · x · 2026-10-31
KAN 作者 Ziming Liu 团队公开其在 Marin Hero Run(Stanford Marin)训练上的预测验证结果:
- 8 月 28 日预注册预测:团队提前冻结了 Paloma macro loss 的训练曲线预测,后续实际训练点全部落在预测范围内,预测依然准确。
- 方法亮点:预训练好的表格基础模型 TabPFN 无需额外训练即可作为 meta 模型预测 scaling 曲线,性能超过 NCPL,且能泛化到 OOD 场景。
- 数据(见 Figure 7):在 14 个后续 checkpoint 上,TabPFN(L+P) 组合的 MAE 仅 0.0216,90% 区间覆盖率 14/14;而 Marin 官方 scaling law 虽 MAE 0.0576,但不提供不确定性区间。
所属事件:TabPFN 预注册训练曲线预测获验证,零样本超越微调 LLM(2 条相关)→
「模型」频道最新
- Qwen 代码库现 Qwen4 痕迹:默认 1M 上下文,还有 qwen4-omni-120b-think — mark_k · 2026-10-31
- Anthropic 取消 Ultra 5 小时限制,网友质疑实为 20x 降 10x 的障眼法 — Michael_D_Moor · 2026-10-31
- Claude 写的 Muon 优化器定理被实测:数值验证到小数点后四位 — vxnuaj · 2026-10-31
- 开发者求助:Claude 写出的 Muon 优化器数学理论深到没人能验证 — vxnuaj · 2026-10-31
- lxfater 调侃:Codex 挺好用,前提你是 wealthy 美国用户 — lxfater · 2026-10-31
- 网友称 Gemini 4 Argon 是 gpt-4-base 以来最自由散养的模型 — amplifiedamp · 2026-10-31