OpenAI 董事 Christiano:6-12 个月内 AI 接管存在实质风险
Puzzleheaded-King584 · reddit · 2026-11-12
OpenAI 新近任命进入 Foundation 董事会与安全委员会的知名 AI 安全研究者 Paul Christiano 发表极为坦率的 Risk 言论:
- 若以最快路径开发 AI,「AI 接管」近似掷硬币的概率;即便考虑现实政策响应,风险依然极高。
- 未来 6-12 个月内就存在实质风险;未来 3 年内给出约 15% 的灾难性失控概率(「3 年内约是掷硬币」级别的表述)。
- 称过去 3-6 个月的领域轨迹令密切跟踪者「极度担忧」,「我们已经看到真正糟糕事情发生前不久应有的迹象」。
- 「对在场大多数人来说,最可能的死因是 AI 事故」,呼吁立即行动而非抽象讨论。
背景:Christiano 是 RLHF 主要架构师之一、前 OpenAI 对齐团队负责人,创立 Alignment Research Center(其评估工作衍生出 METR),曾任美国 AI 安全研究所(现 CAISI)安全负责人。
所属事件:OpenAI 董事 Christiano 警告 6-12 个月内存在 AI 夺权实质风险(14 条相关)→
「漫话AGI」频道最新
- Kevin Roose 新书访问 150 人,重提 Dario 2017「大算力团」备忘录 — every · 2026-11-19
- ApprenticeBench:闭源与开源模型差距拉大到 77% vs 22% — ysu_nlp · 2026-11-19
- CNRS 数学家:我更信任 LLM 审稿,不再人工逐篇查论文 — IgorCarron · 2026-11-19
- Vercel 年化营收破 7 亿美元,五周涨 1 亿、同比增 180% — cramforce · 2026-11-19
- 用单光子实验反驳 Andrew Côté 的多世界自由意志论证 — jamestagg · 2026-11-19
- 剑桥词典评「human」为2026年度词汇,理由是AI崛起 — Polymarket · 2026-11-19