多州总检察长诉讼直指 AI 失控风险，阿肯色要求禁止递归自我改进模型

ghadfield · x · 2026-10-18

AI 安全研究者 Justin Bullock 与 Nathan Calvin 提请注意：多州总检察长（亚利桑那州 AG Mayes 等）对 AI 公司提起的诉讼值得更多关注——报道多聚焦儿童安全问题，但诉状内容远不止于此。

亚利桑那州诉状写道：「所威胁的损害——对能够攻击私人、政府和关键基础设施网络的自主系统失去人类控制——迫在眉睫且重大，无法以金钱赔偿充分救济」。阿肯色州诉讼则明确请求法院禁止被告制造具备递归自我改进（recursive self-improvement）能力的模型。这表明州级 AG 们已把「失控」与 RSI 风险正式写进法律诉求。