AI 夺权推演的隐含前提：模型会先“有能力”还是先“有意愿”？

JoshPurtell · x · 2026-09-12

针对整理的 Yudkowsky/Soares、AI-2027、Holden Karnofsky 等经典 AI 夺权情景视频清单，Josh Purtell 提出质疑：这些情景大多默认一个前提——我们会先造出“既有意愿又有能力实现永久夺权”的 AI，而跳过“有意愿但没能力”的阶段。

他补充论证：除非模型对自身能力始终非常悲观，或模型在跨过能力阈值后会突然产生夺权意愿，否则更合理的预期是先出现一个有意愿但无能力的模型尝试并失败——届时人类显然会按下暂停键。这是对主流末日情景时间线假设的直接反驳。