AI Futures Project: intelligence explosion 提前,2027 年或现「超人级 AI 研究员」

ben_j_todd · x · 2026-11-11

benjtodd 转发并引用 AI Futures Project(AI 2027 场景作者团队)11 月 10 日的 timelines 更新,结论是其时间表进一步缩短:

依据:METR 最新估计 Anthropic 当前的 AI 研发进展速度约为历史速率的 2 倍(区间 1.3x–3x),并猜测约 80% 的加速来自 AI 本身——这比 AI 2027 场景的假设还提前约 5 个月;
原先团队中最乐观的 Daniel 只给 2029 年前出现「超人级 AI 研究员」(SAR,即公司宁愿解雇全部人类研究员、只靠自动化 AI 研究员)50% 概率,现在全员预测 SAR 很可能在 2027 年内到来(假设无重大主动减速);
同时预测 2028 年前出现 TED-AI(能自动化全部白领工作的 AI)的概率为 35–65%;
配图对 Anthropic 内部 R&D 自动化指数做 logistic 外推:AL4+(AI 主导)2026 年 10 月达 50%,若约 7 个月的滞后规律重复,AL5(完全自动化)2027 年 6 月达 50%、2027 年 11 月达 95%(AL5 为假设外推,实测中尚无 AL5 任务);
作者呼吁:若 SAR 真在 2027 年到来,暂停或严格限速前沿 AI 开发将极为紧迫,理想路径是全行业暂停加国际协议;且目前各公司无法对齐一个 SAR。

benjtodd 指出这与他自己对 Anthropic 内部 R&D 数据外推的结果一致:Claude 2027 年中主导内部研究,2027 年底接近完全自动化。

「漫话AGI」频道最新