AI 进展太快，社会转型会滞后

Afinetheorem · x · 2026-07-13

作者表示自己签署了一封简短公开信，并强调其核心不是“AI 威胁”本身，而是 AI 能力发展速度极快带来的双重后果：一方面可能给人类带来非常积极的收益，另一方面也存在严重安全风险。

在同一线程里，他进一步提出一组偏宏观的治理设想：政府应建立类似 AISI 的高技能监测部门、按对 AI 技术栈的贡献来设计准入/访问条约、推动美中之间更频繁的双边安全整合，并同步调整法律与大型组织以承接 AI 带来的收益。他同时判断，社会转型会慢于技术能力的提升，但在他有生之年，重复性工作会消失、癌症有望被治愈；下行风险则包括威权化、规模化欺诈、恐怖主义，以及一些更快出现、甚至更极端的情景。