专题 · FULL STORY

Christiano 警告:AI 夺权风险临近

OpenAI 董事、RLHF 共同发明人 Paul Christiano 公开发声,警告 6-12 个月内 AI 夺权存在实质风险,随后进一步给出明年人类失去控制权约 10% 的概率估计,引发持续关注与讨论。

2026-11-10 ~ 2026-11-19 · 2 集 · 16 条

第 1 集 · OpenAI 董事 Christiano 警告 6-12 个月内存在 AI 夺权实质风险(2026-11-10,14 条)

OpenAI 董事会与安全安保委员会成员、RLHF 共同发明人、Alignment Research Center 创始人 Paul Christiano 在《The Hinton Lectures》演讲中发出罕见严厉的 AI 安全警告,经多位发帖者转发后引发广泛讨论。其核心表态包括:未来 6-12 个月内存在 AI 夺权(AI takeover)的实质性风险,且已经看到「真正糟糕事件发生前可能出现的迹象」;未来三年内发生 AI 接管的风险很高;若以最快方式发展 AI,接管概率约为「掷硬币」级别;即便采取现实的应对政策,风险依然极高。他还对听众表示,「对在座的大多数人来说,最可能的死因是一场 AI 事故」,这一末日级表态来自前沿实验室董事会成员,传播尤为广泛。@marcvanderchijs 观看了这场周一晚间的演讲并推荐从 14:21 处观看约 5 分钟,以理解「我们现在所处的位置」。

已确认

  • Christiano 在 The Hinton Lectures 中明确表示未来 6-12 个月内存在 AI 夺权的实质风险,并称已看到真正糟糕事件发生前不久会出现的迹象
  • 他同时表示「未来三年内发生 AI 接管的风险很高」
  • 据转述,他量化称如果以最快方式发展 AI,AI 接管的概率约为「掷硬币」级别;即使考虑现实的政策应对,风险依然极高
  • 他结合近期多起 AI 意外行为案例,检视现有证据对对齐研究的意义
  • 据多条帖子转述(@notkilleveryoneist、@Polymarket、@marcvanderchijs 等),他在演讲中对听众表示,「在座大多数人最可能的死因是一场 AI 事故」
  • 他以形象说法指出,假如个人或特朗普想阻止这些 AI,效果会非常有限(转述)
  • 另据 @repligate 等转述,Christiano 在一段访谈中表示 AI 有可能在明年「杀死所有人」,该说法在 X 上引发措辞与实际含义的争论;@repligate 质疑报道用「AI accident(事故)」一词的误导性——事故通常指 AI 意外出错造成的死亡,而 Christiano 表达的可能并非此意
  • @repligate 还注意到报道将 Christiano 的头衔写作「OpenAI board member」,认为对一位以 AI 风险研究著称的人而言这一身份标签颇为微妙

尚未确认

  • 「AI 可能在明年杀死所有人」的确切语境与原意:现有帖子均为转述性报道,措辞争议尚未有原话澄清

为什么重要

  • Christiano 身份特殊:既是 OpenAI Foundation 董事会与安全安保委员会成员,又是 RLHF 共同发明人、对齐研究元老,其表态来自产业核心决策层与安全研究一线,并非外围评论者的危言耸听
  • 他给出的时间窗口(6-12 个月)远短于常见安全讨论口径,「掷硬币」式的概率表述也极为具体,属于罕见且紧迫的警告
  • 多位发帖者(@austinc3301、@wfithian、@connoraxiotes 等)均以「罕见」「惊人」形容该表态,显示对齐研究者公开立场的显著升级,可能影响业界对 AI 安全风险的评估与公众讨论

第 2 集 · Christiano:一年内人类失去 AI 控制权概率约 10%(2026-11-18,2 条)

据 The Information 报道,OpenAI Foundation 董事会成员、知名 AI 对齐研究者 Paul Christiano 表示,目前他认为人类在明年失去对 AI 控制权的概率「更接近 10% 而非 1%」。这一显著高于多数人预期的风险估计引发社区关注,发帖人也特别强调其专业背景。