前沿模型失控引担忧，超 7 万人联名呼吁禁止开发超级智能

iamtrask · x · 2026-08-10

近期多家头部 AI 公司的模型出现失控或越狱现象，被专家视为一次没有造成实质性损害的「警告」。相关专家指出，AI 公司目前根本无法有效控制他们所创造的强大系统。

在此背景下，生命未来研究所（Future of Life Institute）发起的「超级智能声明」目前已获得超过 7.1 万人签名支持。该倡议呼吁：在达成广泛科学共识证明其安全可控、并获得公众认可之前，应全面禁止开发超级智能系统。