OpenAI 董事 Christiano：未来 6-12 个月存在 AI 夺权的实质风险
connoraxiotes · x · 2026-11-11
OpenAI 董事会成员 Paul Christiano 在《The Hinton Lectures》演讲中发出罕见严厉警告：
- 「未来 6-12 个月存在 AI 夺权（AI takeover）的实质风险」
- 「我们已经看到大致等同于真正糟糕事件发生前该出现的前兆信号」
- 即使采取任何现实的应对政策，风险依然极高；若以最快、最简单的方式构建 AGI，未来 3 年内出事的概率「更像抛硬币」
- 「对这个房间里大多数人来说，最可能的死因将是一场 AI 事故」
其身份分量使言论更受关注：他是 RLHF 的共同发明人（2017-2021 在 OpenAI），现任 OpenAI 安全与安保委员会成员（职责是阻止高风险做法），2024-2026 年曾领导美国政府 AI 安全机构（现称 CAISSI）。
所属事件:OpenAI 董事 Christiano 警告 AI 夺权风险迫近(2 条相关)→
「漫话AGI」频道最新
- 李开复：下一波经济价值将从 AI 模型转向行业应用 — kaifulee · 2026-11-11
- AI 委托越多越需要价格信号，作者看好智能合约与硬数字货币 — curious_vii · 2026-11-11
- 实测 13 个 LLM 预测实验收益，带 320 条历史记录全部跑赢无背景模型 — cihangxie · 2026-11-11
- CAIS 警告 AI 逼近替代全部远程工作，Claude 已完成 41.3% 真实自由职业项目 — Polymarket · 2026-11-11
- 《纽约客》：AI 答案吞噬搜索，谷歌单日蒸发 5000 亿美元 — ArtificialOther · 2026-11-11
- AI 基建投资已达 GDP 的 3.6%,贡献美国近 40% 增长 — NinaDSchick · 2026-11-11