OpenAI 董事 Christiano:6-12 个月内存在 AI 接管实质风险
Puzzleheaded-King584 · reddit · 2026-11-11
OpenAI 基金会董事会成员兼安全委员会成员 Paul Christiano 在一段视频发言中给出罕见的高风险警告:
- 如果以最快方式发展 AI,AI 接管(AI takeover)的概率约为「掷硬币」级别;即使考虑现实的政策应对,风险仍然「极高」。
- 他认为未来 6-12 个月内就存在实质性风险,3 年内的灾难性失控概率约 15%(他此前的公开估计),并称「对在场大多数人而言,最可能的死因是 AI 事故」。
- 他指出过去 3-6 个月的趋势「极其令人担忧」,业界已观察到「坏事发生前不久预期会看到的迹象」,呼吁立即行动而非停留在抽象讨论。
背景:Christiano 是 RLHF 的主要设计者之一,曾领导 OpenAI 对齐团队,创立 Alignment Research Center(评测工作后演变为 METR),曾任美国 AI 安全研究所所长,2026 年 9 月加入 OpenAI 基金会董事会。
所属事件:OpenAI 董事 Christiano 警告 6-12 个月内存在 AI 夺权实质风险(14 条相关)→
「漫话AGI」频道最新
- Kevin Roose 新书访问 150 人,重提 Dario 2017「大算力团」备忘录 — every · 2026-11-19
- ApprenticeBench:闭源与开源模型差距拉大到 77% vs 22% — ysu_nlp · 2026-11-19
- CNRS 数学家:我更信任 LLM 审稿,不再人工逐篇查论文 — IgorCarron · 2026-11-19
- Vercel 年化营收破 7 亿美元,五周涨 1 亿、同比增 180% — cramforce · 2026-11-19
- 用单光子实验反驳 Andrew Côté 的多世界自由意志论证 — jamestagg · 2026-11-19
- 剑桥词典评「human」为2026年度词汇,理由是AI崛起 — Polymarket · 2026-11-19