OpenAI 披露预训练进展:困惑度与时间跨度呈指数关系
danielrock · x · 2026-11-23
- OpenAI 发布《Perplexity and Intelligence》博客,首次系统性披露预训练进展数据,主张以困惑度等指标作为共同的安全基准,超出该基准的能力进展应以对 AI 行为的理解程度为前提。
- Basil Halperin 等人据此整理出关键实证关系:METR 测得的 50% 任务时间跨度与预训练困惑度呈指数关系——log-困惑度每下降约 0.032,时间跨度翻倍(早期 GPT-3.5→GPT-4o 时代约为 0.025)。
- 推理模型(o1/o3/GPT-5.x)在此关系上表现为一次性跳升,斜率基本不变甚至略平;图中还出现未发布的 GPT-6 Astra 点位,时间跨度外推至 256 小时以上。
「模型」频道最新
- 「你被路由到了 Opus 4.6」:Matthew Berman 惊呼翻车名场面 — MatthewBerman · 2026-11-23
- Reddit 实测 inkling-mini-2:谨慎不循环,但太怕出错 — Express_Quail_1493 · 2026-11-23
- Matt Wolfe 视频:Google 新模型强势回归大盘点 — Matt Wolfe · 2026-11-23
- Google AI Overview 触发逻辑成谜:复杂查询不触发,单字符必触发 — VeredShwartz · 2026-11-23
- Voyager 发布 shot-reader-8b 开源模型,上架 Hugging Face — ravisparikh · 2026-11-23
- Matthew Berman 整个周末重度使用后,Gemini 周限额竟纹丝不动 — MatthewBerman · 2026-11-23