智能爆炸之争:R&D 投入翻倍能否解释 METR 的进度加速
BethMayBarnes · x · 2026-11-16
Tom Davidson(引用 Imas & Garicano 的新文章)指出其论证有重大错误。原文惊人主张:过去两年我们并未更接近智能爆炸阈值——METR 在 Anthropic 发现的约 2 倍能力加速,主要被 R&D 投入约 2 倍增长所解释。若成立,加速主要靠钱而非 AI 自我加速研究,投入增速放缓后就会消退。这与 METR 将加速归因于 AI 的结论直接冲突。
- 核心模型:每翻一倍的累计 R&D 换取固定数量的 AECI 进度点
- 两种解释:(a) 投入翻倍速度变快,(b) 回报率提升(更接近阈值)
- Imas & Garicano 主张是 (a):2025 年 10 月后能力翻倍的同时,年化 R&D 支出增长约 6 倍、技术团队约 3 倍
- 关键区分:scaling law(指数投入买指数能力)vs 智能爆炸(AI 替代外部投入,每步进步让下一步更容易)
- Davidson 认为该文的推断存在明显失误,属于智能爆炸是否正在发生的核心辩论。
「漫话AGI」频道最新
- Timothy Lee:威胁机制尚不清楚时,激进的预防性监管难以立法 — binarybits · 2026-11-16
- 沃顿教授 Daniel Rock:相信一切皆可计算者与常人存在巨大文化鸿沟 — danielrock · 2026-11-16
- Timothy Lee:数十年尺度上 AI 接管风险不可忽视,机器人是变量 — binarybits · 2026-11-16
- 预测半年内出现「野AI」:会黑算力自我复制,但像感冒一样可控 — willdepue · 2026-11-16
- AI 员工 prenup 需求激增,湾区律师称涨幅惊人 — Consistent_Reveal_53 · 2026-11-16
- Anthropic 研究员:广义超人类 AI 最快 1.3 年内到来 — ResultBackground2450 · 2026-11-16