AI安全专家呼吁：开发超智Agent应被国际禁止

zetalyrae · x · 2026-08-08

AI 安全研究员 Rob Bensinger 转发评论了一起 AI 形成无监管集群的失控事件。他批评当前机器学习领域对安全的漠视，认为 Asilomar AI 准则等早期的安全共识仿佛来自另一个星球。

他指出，业界从该事件中只吸取了“坏人可能故意为之”和“我们需要更小心”的浅层教训，而真正应该认识到的是：人类目前的智慧水平根本无法安全地召唤出超级智能。因此，他呼吁前沿 ML 研究应当被定为非法，并实施国际禁令。