研究者担忧灭绝风险,但美国国会本季难产 AI 安全立法

motherjonesmag · reddit · 2026-08-28

Mother Jones 报道,AI 研究者对前沿模型的存在性风险日益焦虑,这种警觉正在向政策制定者和媒体扩散。讨论中的政策选项包括为模型强制配置「 kill switch 」、设立联邦安全研究标准,甚至全面暂停前沿模型开发。

哈佛肯尼迪学院研究 AI 安全与治理的 Stephen Casper 指出,目前并不确定领先公司是否真能在紧急情况下完全关停前沿模型——「我不认为有任何公开信息表明 AI 公司做过类似消防演习的事」。而稳定的国家级政策需要国会立法,本会期内通过的可能性很低,即便 AI 开发者自己也在呼吁监管放慢研究。