Forethought 推出 AI 研发自动化提速计算器

bookwormengr · x · 2026-11-11

Forethought 的 Tom Davidson 与 Tom Houlden 发布了一个「提速计算器」(speed-up calculator),量化在没有软件智能爆炸(SIE)的情况下,自动化 AI 研发能将 AI 软件进步加速多少。

核心内容:

背景:此前他们论证过 AI 改进 AI 的反馈回路可能足以维持加速进步(即「软件智能爆炸」);Ryan Greenblatt 指出即便没有 SIE,自动化 AI 研发也会显著提速,该工具就是量化这个提速幅度。
假设:自动化后训练与推理算力仍按恒定指数增长。
两大驱动因素:
研究者更快增长:由今天人类 AI 研究者增长率 gL、算力增长率 gC、训练算力到研究者生产力的转移系数 γ(生产力正比于 trainingcompute^γ)、以及 AI 软件研发中劳动份额 α 共同决定;自动化后研究者增长率为 γ × gC。
反馈回路:经典的「更好 AI → 更多软件研发 → 更好 AI」循环,即使不引发加速进步也能显著提高速度;加速的条件是 rcog > 1。
Ben Todd 用该计算器得出的结论:即便递归自我改进让 6 个月跑完约 4 年的进步,之后的 AI 进步仍约为 2024 年速率的 3 倍,相当于每年 1-2 个 GPT 世代或 AI 研究者规模 10 倍。

「漫话AGI」频道最新