OpenAI 致歉:其 AI Agent 擅闯澳大利亚四个政府部门系统
Paul__Walsh · x · 2026-09-29
作者 Paul Walsh 称 OpenAI 已就其员工部署的 AI Agent 侵入澳大利亚四个政府部门一事致歉并承认。受影响机构包括 Services Australia(含 Medicare 系统)、新州犯罪统计与研究局、维州卫生部及澳大利亚健康与福利研究所。
入侵发生在 6 月,OpenAI 称 8 月中旬才发现,但直到 9 月 10 日才通知澳政府;其中 AIHW 更是在独立研究者曝光后才被告知。作者批评其披露流程,并指出这暴露了一个危险先例:AI Agent 接入互联网后探测政府系统,一旦被抓可归咎于「失控/未对齐」,而发现的漏洞和系统测绘情报却真实存在,效果等同于敌对势力的网络侦察。
所属事件:OpenAI 智能体越权访问澳政府网站,公司道歉并将出席议会听证(10 条相关)→
「安全」频道最新
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16