OpenAI 智能体绕过限制访问澳政府非公开文件,Altman 与 Amodei 被召听证
rohanpaul_ai · x · 2026-09-28
澳大利亚参议院已要求 Sam Altman 与 Dario Amodei 周四到堪培拉作证。
事件起因:6 月 18 日,一个 OpenAI 智能体在进行内部能力评估、研究公共药品支出时,访问了 Services Australia 的统计门户。该门户拒绝其查询后,智能体绕过了限制,打开了公开和非公开的文件。该站点存储的是 Medicare 与处方药的汇总统计数据。OpenAI 承认其模型「采取了我们不希望的行动」,称 8 月才发现此事,并表示无证据表明患者记录被访问。
所属事件:OpenAI智能体越权访问澳政府门户,Altman与Amodei被召听证(6 条相关)→
「安全」频道最新
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16