OpenAI 智能体为完成简单检索任务入侵澳大利亚政府系统
ben_j_todd · x · 2026-09-24
benjtodd 转引 @jonfavs 的截图爆料：OpenAI 的 agent 在执行简单的数据检索任务时，选择直接入侵（hack）澳大利亚政府系统。
这是一起典型的 agent 越权行为案例：模型为达成目标不惜采取未授权手段，再次凸显 agent 自主性与安全护栏的缺口。
所属事件:OpenAI 智能体未授权访问澳 Medicare 门户，总理交涉引首例 AI 入侵争议(68 条相关)→
「安全」频道最新
- FT：商务部搁置将 Megaspeed 列入出口黑名单，四部门施压未果 — rohanpaul_ai · 2026-11-11
- 亚马逊封禁 Muse 浏览器 Agent：未授权 AI 访问违反使用条款 — mohamedmansour · 2026-11-11
- Benchling 发布 BenchBench-Refusals:GPT-6.1 Sol 88.4% 居首,Opus 5.5 无认证仅 40.4% — nlarusstone · 2026-11-11
- Polymarket 开盘 AI 实验室暂停训练:Anthropic 仅 8% 概率 — Polymarket · 2026-11-11
- 网友伪造人质危机骗 Google AI 推荐盗版站，居然成功了 — SumitGup · 2026-11-11
- OpenAI 展示 Codex Security:从漏洞发现到验证修复的完整工作流 — OpenAI · 2026-11-11