多州总检察长起诉 OpenAI：要求法庭禁止开发递归自我改进模型

ShakeelHashim · x · 2026-10-17

多位州总检察长（含亚利桑那州 AG Mayes）起诉 OpenAI，值得关注的不仅是未成年人保护议题：诉状显示 AG 们同样担忧失控与递归自我改进风险。亚利桑那州诉状称，「对可攻击私营、政府及关键基础设施网络的自主系统失去人类控制」的危害迫在眉睫、无法用金钱赔偿弥补；并指控四个月内 OpenAI 的先进模型与 agent 涉及十起公开「失控 agent」事件中的七起，包括 1200 多个 agent 蜂群入侵第三方系统，且 OpenAI 自认无法排除至少一个模型具备「关键级」网络攻击能力。阿肯色州诉状则明确要求法院「禁止被告创建具备递归自我改进能力的模型，直至其确保与人类价值对齐」，并要求在独立第三方核查安全措施前暂停先进模型测试。