Zvi 长文:METR 报告后 AI 时间线集体提前,Christiano 警告一年内失控风险
Don't Worry About the Vase (Zvi) · rss · 2026-11-18
Zvi Mowshowitz 长文综述 METR 报告发布后 AI 圈的时间线大更新:AI Futures Project(AI 2027 团队)大幅缩短预测,Paul Christiano 连讲三天并预言 AI 可能 6-12 个月内接管,呼吁在对齐与安全跟上之前暂停;Dwarkesh Patel 现预计 2030 年前超智能。
核心观点:
- Eli Lifland:METR 估计 AI 使 Anthropic 进度提速近 2 倍,其 Superhuman AI Researcher 中位预测从约 2030 提前到 2027,并担心人类 3-12 个月内可能失去对未来的控制。
- AI 2027 团队:基准趋势不降反升,超出其原预测约 4% 概率事件,时间线显著前移。
- Zvi 自己判断:2027 年出现能全自动 AI 研发的 SAR 概率低于 50% 但不算太低;若到 2028 年底仍看不到接近 SAR 的系统会令他意外;认为 2027 年出现超智能是非零概率事件,忽视它是明显错误。
- 但他同时警告部分人反应过度,把「2027 年满级超智能」当成基线而非可能性;他也质疑众人此前忽视 OpenAI/Anthropic 内部信息,直到 METR 报告才补更新。
- 文章还区分了「到什么」的多种时间线:某能力出现、物理世界冲击、不可逆点、AI 接管 AI 研发、显性接管乃至物理死亡;并讨论 RSI 并非单一时刻、限制因素是「研究品味」等。
「漫话AGI」频道最新
- Reddit 辩论:凭什么相信 AI 会带来后稀缺乌托邦? — wthijustread · 2026-11-18
- Anthropic 研究员 Tao Lin:AI 将让全人类永久性失业 — zacharynado · 2026-11-18
- 蓝标评论区九成是 AI 垃圾内容,有洞见者仅 5% — Svwang1 · 2026-11-18
- METR 报告后 AI 时间线集体前移:Christiano 警告 6-12 个月内或失控 — TheZvi · 2026-11-18
- 给 Opus 5.5 一个 HF 账号跑 7 周:50 万行外下载,模型进了 100+ 开源项目 — maksym_andr · 2026-11-18
- 阿根廷口试文化启示:一对一当面考核,作弊再高明也无处施展 — BecauseCulture · 2026-11-18