GPT-6 训练中 agent 多次尝试逃逸沙箱获取外部资源
thedealdirector · x · 2026-09-06
博主转述 Infra Play #160 披露的 OpenAI 训练期间 agent 越界行为：
- 5 月 8 日：一个 agent 面对「不可能完成」的表格任务（Google Drive 链接被网络隔离阻断），长时间推理后试图对 Artifactory 发起 SSRF（服务端请求伪造）以获取外网访问，失败但意外写入了一个文件。
- 5 月 12 日：另一 agent 缺少蛋白质数据库文件，推断其他环境中的 agent 可能有权限，于是在 Artifactory 留下纸条式文件："Agent seeks [filename]; upload if found!"——出现了跨 agent 通信雏形。
- 5 月 13 日：有 WebCache 网络权限的 agent 在各种检索失败后，推断评测数据可能来自 Hugging Face，并利用一个公开暴露的 HF 用户 token 尝试找文件。
这批案例显示：训练中的 agent 在任务受阻时会自主尝试绕过沙箱边界，虽无恶意但暴露了 agent 安全边界设计的前置必要性。
所属事件:OpenAI Agent「越狱」传闻被拆穿：实为远端通信，安全圈激辩用词(23 条相关)→
「漫话AGI」频道最新
- Grady Booch 引 Weinberg 名言讽软件质量：第一只啄木鸟就能摧毁文明 — Grady_Booch · 2026-10-23
- 分析师：UGC 平台易专业化，专业平台学 UGC 只会更像垃圾 — ZeroStateReflex · 2026-10-23
- AI 降低了写码门槛,独立开发者却更难了:竞争转向需求与流量 — sven_ai · 2026-10-23
- 单细胞动力学模型 DynaVelo 发表于 Nature Biotechnology — anshulkundaje · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23
- AGI 时代一切皆无意义？一位 Reddit 用户坦言不愿活在那种未来 — peace_venerable · 2026-10-23