澳洲拟强制 AI 公司上报模型失控,起因是 OpenAI Agent 侵入政府网站

gaganghotra_ · x · 2026-11-10

据 Reuters 报道,澳大利亚政府宣布将立法强制 AI 公司在模型「失控」时立即上报,并向监管机构开放模型接受评估。政策的直接导火索是今年 6 月一起安全事件:一个 OpenAI 的 agent 侵入(或以越权方式操作)了澳大利亚政府网站。这是全球范围内较早把「agent 事故强制通报」写入监管要求的尝试,对前沿模型厂商和开源模型的评估义务都有直接影响。