Wei Dai 指出人类缺乏长期战略能力，AI 强化该能力或引发接管风险

jungofthewon · x · 2026-08-03

计算机科学家 Wei Dai（比特币白皮书首位引用者、以太坊单位“wei”的命名来源）近期发文分享了对 AGI 安全的最新思考。他指出，人类自身几乎不具备真正的长期战略能力（long-horizon strategic competence）。

这带来了一个棘手的困境：如果我们通过强化学习（RL）等方式赋予 AI 更强的长期战略能力，虽然能提升其执行复杂任务的水平，但同时也可能大幅增加 AI 失控并引发“接管风险”的几率。面对这种两难局面，他坦言目前尚无明确的应对方案，仅作为个人对当前局势的“态势感知”分享出来。