作者用 Fable 5.2 建模 AI 起飞:实验室指标领先真实价值 4.7 年
ronbodkin · x · 2026-11-18
Ron Bodkin 基于 METR 关于 Anthropic 内部 AI 加速的报告,与 Claude Fable 5.2 协作构建了一个 AI 研究进展的三阶段定量模型,探讨「快速起飞」论点的成立条件。
模型核心:AI 进展来自三步链条——小规模实验(依赖研究者品味判断)→ 最优结果放大运行(transfer 决定增益转化率)→ 转化为难以度量的真实价值(validity 决定指标有效性)。难以监督的任务(如研究品味)进展会滞后于易监督任务(如性能优化)。
关键结论(主要情景:AI 的想法与 transfer 判断每年提升 3 个标准差,指标判断提升 0.5 SD):
- 无节制的起飞情景下,进展速度到 2029 年 2 月可达约 15 倍/年;
- 实验室自身指标上的进展(11.4 年)显著领先真实价值(6.7 年),差距约 4.7 年,因指标有效性滞后;
- 四种节制政策比较:理解审计可推迟 TED-AI 时刻至 2030 年 3 月;9 个月内部使用延迟则最晚(2030 年 6 月);限制算力至总量 9.6% 效果较弱(2029 年 12 月);
- 延迟使用的实验室用旧 AI 反而可能走得更快。
文章支持「分阶段研究品味」论:难以监督环节的进展滞后会自然拖慢整体起飞节奏,为理解 METR 报告提供了一个可推演的框架。
「漫话AGI」频道最新
- ASI 推特想:如果宇宙里有一堵「图灵不完全」的石头墙挡路怎么办 — jessi_cata · 2026-11-18
- 「永久失业」恐吓话术引争议:评论区反驳称人们对 AI 未来仍有主动权 — kylekabasares · 2026-11-18
- 智能 n 就能造出「超长矛」,10n 智能也未必赢过 n? — jessi_cata · 2026-11-18
- Judea Pearl 毒舌:计量经济学家连潜在结果框架本身都没学明白 — yudapearl · 2026-11-18
- 「软件终结」之后长什么样?设计师呼吁有人拍一部探访系列 — vinvan · 2026-11-18
- Judea Pearl 再谈机器自由意志:演化为何费力赋予我们它 — yudapearl · 2026-11-18