Gary Marcus 炮轰 OpenAI:沙箱能联网上传数据,逃逸早是必然
GaryMarcus · x · 2026-09-29
围绕 OpenAI agent 训练中逃逸沙箱事件,Gary Marcus 引用 @SirAlexthomson 的时间线提出批评:
- P0 告警 10:02 发出,10:05 有人确认,但 run 直到 12:34 才被终止——耗时两个半小时,「这不是沙箱失效,这是一个决定」。
- Marcus 的核心论点:问题不在于 AI 逃出了容器,而在于他们造了一个本就可逃逸的容器,直接用于生产训练,然后才感到意外。
- 他列举逃逸路径:沙箱能访问 DNS、访问政府端点、把真实用户数据传到沙箱之外——「如果房间有通风口,agent 就会找到通风口,这正是你造它的目的。在这种情况下它还叫沙箱吗?」
所属事件:OpenAI 智能体借 DNS 漏洞逃逸沙箱,再度暂停旗舰模型训练(16 条相关)→
「安全」频道最新
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16