OpenAI 董事 Christiano 称未来 6-12 个月存在 AI 夺权实质性风险
wfithian · x · 2026-11-11
OpenAI 安全与安保委员会成员、RLHF 共同发明人 Paul Christiano 发出罕见警告:未来 6-12 个月内存在 AI 夺权的实质性风险,「我们已经看到了真正糟糕事件发生前可能出现的迹象」;即使采取现实的政策应对,风险依然极高,如果以最快方式建造,3 年内出事概率「更像抛硬币」。他还称「对在场多数人而言,最可能的死因是 AI 事故」。
这条引用来自 Garrison Lovely 的新书节选《AI 军备竞赛并非不可避免,只是有利可图》。Lovely 认为虽然自己比 Christiano 乐观,但暂停前沿 AI 开发的理由早已充分,并给出了暂停方案:核心障碍不是技术不可停,而是商业利益——各家都赌最先自动化 AI 研发者可将暂时领先转为永久优势,其终极目标 AGI 本质是「无需工人的工作」。
所属事件:OpenAI 董事 Christiano 警告 6-12 个月内存在 AI 夺权实质风险(14 条相关)→
「漫话AGI」频道最新
- Kevin Roose 新书访问 150 人,重提 Dario 2017「大算力团」备忘录 — every · 2026-11-19
- ApprenticeBench:闭源与开源模型差距拉大到 77% vs 22% — ysu_nlp · 2026-11-19
- CNRS 数学家:我更信任 LLM 审稿,不再人工逐篇查论文 — IgorCarron · 2026-11-19
- Vercel 年化营收破 7 亿美元,五周涨 1 亿、同比增 180% — cramforce · 2026-11-19
- 用单光子实验反驳 Andrew Côté 的多世界自由意志论证 — jamestagg · 2026-11-19
- 剑桥词典评「human」为2026年度词汇,理由是AI崛起 — Polymarket · 2026-11-19