OpenAI 安全委员 Christiano 称 6-12 个月内 AI 接管存在实质风险
AccBalanced · x · 2026-11-11
OpenAI 董事会成员、RLHF 共同发明人 Paul Christiano 表示:「未来 6-12 个月内 AI 接管存在实质风险;我们已经看到真正糟糕事情发生前大致该出现的迹象;即使有现实的监管应对,风险依然极高;若以最快最简单方式构建,3 年内出事概率更像掷硬币;对在场多数人而言,最可能的死因是 AI 事故。」jonstokes 则引用 Hinton 当年放射科预测失准的例子反驳:权威论证不成立——懂 AI 不等于懂「接管全人类社会」这件事。
所属事件:OpenAI 董事 Christiano 警告 6-12 个月内存在 AI 夺权实质风险(14 条相关)→
「漫话AGI」频道最新
- Kevin Roose 新书访问 150 人,重提 Dario 2017「大算力团」备忘录 — every · 2026-11-19
- ApprenticeBench:闭源与开源模型差距拉大到 77% vs 22% — ysu_nlp · 2026-11-19
- CNRS 数学家:我更信任 LLM 审稿,不再人工逐篇查论文 — IgorCarron · 2026-11-19
- Vercel 年化营收破 7 亿美元,五周涨 1 亿、同比增 180% — cramforce · 2026-11-19
- 用单光子实验反驳 Andrew Côté 的多世界自由意志论证 — jamestagg · 2026-11-19
- 剑桥词典评「human」为2026年度词汇,理由是AI崛起 — Polymarket · 2026-11-19