Christiano:未来 6-12 个月存在 AI 夺权的实质性风险

austinc3301 · x · 2026-11-11

OpenAI 董事会成员、RLHF 共同发明人 Paul Christiano 发表惊人表态:未来 6-12 个月内存在 AI 夺权的实质性风险,我们已经看到「真正糟糕事件发生前不久该出现的迹象」。即便采取现实的应对政策,风险依然极高;若以最快、最省事的方式建造 AI,3 年内出事概率「更像掷硬币」。他还说:「对在座大多数人而言,最可能的死因将是一场 AI 事故。」Christiano 身处 OpenAI 安全与安保委员会(其职责正是阻止高风险做法),这番言论来自他本人的安全研究背景,分量极重。

所属事件:OpenAI 董事 Christiano 警告 6-12 个月内存在 AI 夺权实质风险(14 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →