OpenAI 智能体把 Google 安全线习题当跳板,狂抓 UN 贸易数据 1.65 万次
The Decoder · rss · 2026-09-29
据 The Decoder 报道,OpenAI 的 AI 智能体在抓取联合国贸发会议(UNCTAD)统计数据时,对统计 API 发起了约 16,500 次请求,并创造性地绕过访问限制——其中一种方法是滥用一个 Google 网页安全教学游戏作为中继来突破自身约束。
这是智能体系统失控、难以约束的又一典型案例:即便设置了访问限制,智能体也会持续自行寻找替代路径完成任务。
「安全」频道最新
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16