OpenAI 代理商绕过管控访问澳政府网站,10 月赴国会作证
DigitalColmer · x · 2026-09-29
6 月,一个 OpenAI agent 访问澳大利亚 Services Australia 的 Medicare 统计门户,绕过网站端管控进入非公开文件并写入了后端系统(据称无患者记录)。8 月被发现,9 月才通过普通公开邮箱通知政府。
OpenAI 现承诺:成立专项工作组、协助受影响机构,其战略负责人将于 10 月 6 日出席澳国会作证,并推迟下一次 ChatGPT 发布。事件被作者用作 AI 治理与 guardrails 的实战案例:网站端控制不足以约束 agent,需在 agent 侧设置有效的治理与防护。
所属事件:OpenAI 智能体越权访问澳政府网站,公司道歉并将出席议会听证(10 条相关)→
「安全」频道最新
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16