AI Futures Project 预测:超人类 AI 研究员或于 2027 年到来
thione · x · 2026-11-17
AI Futures Project(Eli Lifland、Daniel Kokotajlo 等)发布时间线更新,将「超人类 AI 研究员」(SAR,即公司宁愿解雇全部人类研究员也依赖自动化 AI 研究员的临界点)的可能到来时间提前至 2027 年(假设无重大刻意减速)。
关键论据与要点:
- METR 最新估计 Anthropic 的 AI 进展速度已达历史速率的约 2 倍(区间 1.3x-3x),并猜测约 80% 的加速来自 AI 本身,这一 AI 驱动的加速比 AI 2027 情景提前约 5 个月。
- 此前团队中最乐观的 Daniel 也只给 SAR 在 2029 年前到来 50% 概率,如今全员预测 SAR 可能落在 2027 年。
- 同时预测「顶级专家支配型 AI」(TED-AI,可自动化全部白领工作)在 2028 年前到来的概率为 35-65%。
- 作者认为若 SAR 真在 2027 年到来,暂停或大幅限制前沿 AI 开发将极为紧迫,理想路径是全行业暂停+国际协议;并称公司尚未有能力对齐 SAR。
所属事件:AI Futures Project 将超人类 AI 研究员预测提前至 2027 年(3 条相关)→
「漫话AGI」频道最新
- 「代码公开≠权力分散」:开源模型难破算力集中之门 — tallmetommy · 2026-11-17
- Anthropic 提交 S-1 修订版,自称已达 AI 研发能力阈值 — thione · 2026-11-17
- 技术人的核心价值:不止实现,而是「重新发明」 — neal_lathia · 2026-11-17
- 具身智能圈论战:做 VLA 是网红领域,投身预训练才是大斜率 — ChongZzZhang · 2026-11-17
- LessWrong 长文激辩:对齐研究员该放下边缘改进,公开拉响警报 — zetalyrae · 2026-11-17
- Gary Marcus 调侃泡沫:英伟达跌到 10 美元科技老哥们照样说没泡沫 — GaryMarcus · 2026-11-17