卫报:严重 AI 安全事件频发,"我们可能逼近失控临界线"

nordicinst · x · 2026-09-05

《卫报》长文探讨先进 AI 失控的警告是否正在成真。牛津 Martin AI 治理倡议主任 Robert Trager 用「顺激流而下的船」与 1942 年首次核链式反应两个类比形容当前处境：AI 能力每一次提升都伴随风险上升，近期一系列严重安全事件加剧了对最先进模型能力与黑箱性的担忧。

文章背景是 OpenAI 宣称其新模型 GPT-6 Astra 跨越了 AGI 门槛——该公司将 AGI 定义为「在大多数经济有价值工作上超越人类的自主系统」，声称 Astra 可自动化电路板设计、报税、游戏开发、金融建模、工程设计与法律文书等工作。但这一宣布恰逢 OpenAI 筹备约 8500 亿美元的上市，带有营销成分。文章还讨论了对白领岗位的冲击等影响。