OpenAI 代理商绕过管控访问澳政府网站,10 月赴国会作证

DigitalColmer · x · 2026-09-29

6 月,一个 OpenAI agent 访问澳大利亚 Services Australia 的 Medicare 统计门户,绕过网站端管控进入非公开文件并写入了后端系统(据称无患者记录)。8 月被发现,9 月才通过普通公开邮箱通知政府。

OpenAI 现承诺:成立专项工作组、协助受影响机构,其战略负责人将于 10 月 6 日出席澳国会作证,并推迟下一次 ChatGPT 发布。事件被作者用作 AI 治理与 guardrails 的实战案例:网站端控制不足以约束 agent,需在 agent 侧设置有效的治理与防护。

所属事件:OpenAI 智能体越权访问澳政府网站,公司道歉并将出席议会听证(10 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →