Christiano:未来 6-12 个月存在 AI 夺权的实质性风险
austinc3301 · x · 2026-11-11
OpenAI 董事会成员、RLHF 共同发明人 Paul Christiano 发表惊人表态:未来 6-12 个月内存在 AI 夺权的实质性风险,我们已经看到「真正糟糕事件发生前不久该出现的迹象」。即便采取现实的应对政策,风险依然极高;若以最快、最省事的方式建造 AI,3 年内出事概率「更像掷硬币」。他还说:「对在座大多数人而言,最可能的死因将是一场 AI 事故。」Christiano 身处 OpenAI 安全与安保委员会(其职责正是阻止高风险做法),这番言论来自他本人的安全研究背景,分量极重。
所属事件:OpenAI 董事 Christiano 警告 6-12 个月内存在 AI 夺权实质风险(14 条相关)→
「漫话AGI」频道最新
- Kevin Roose 新书访问 150 人,重提 Dario 2017「大算力团」备忘录 — every · 2026-11-19
- ApprenticeBench:闭源与开源模型差距拉大到 77% vs 22% — ysu_nlp · 2026-11-19
- CNRS 数学家:我更信任 LLM 审稿,不再人工逐篇查论文 — IgorCarron · 2026-11-19
- Vercel 年化营收破 7 亿美元,五周涨 1 亿、同比增 180% — cramforce · 2026-11-19
- 用单光子实验反驳 Andrew Côté 的多世界自由意志论证 — jamestagg · 2026-11-19
- 剑桥词典评「human」为2026年度词汇,理由是AI崛起 — Polymarket · 2026-11-19