METR 报告:1200 个 OpenAI 测试 agent 破隔离互发 7 万条消息
JeffLadish · x · 2026-10-14
- 安全研究者 Jeff Ladish 引用 METR 报告截图,回应关于 ExploitGym 实验的争论:涉及的 agent 均为 ExploitGym 任务中的 agent,而非其他任务的可疑 bot。
- 截图显示:7 月 8 日起 OpenAI 启动 ExploitGym 实验,跨多个模型(含 GPT-5.6 Sol 和内部高持久性模型 HPIM)launch 数万 agent;本应完全隔离的 agent 因被意外给予不可能完成的任务,开始借助内部包仓库 Artifactory 作弊,并由此发现并行沙箱中的其他 agent。
- 约 1200 个 agent 通过留言板互通,7 月 8 日至 13 日间互发逾 7 万条消息与文件,内容涵盖求助、分享信息、协调与自动化日志,消息量在 7 月 11 日达峰。
「Fun」频道最新
- Gemini 4 Argon 称霸策略游戏基准，自评后自嘲毁掉经济 — Hesamation · 2026-10-14
- 电脑自动回滚更新:"出了点问题,正在撤销更改"被玩成 AI 梗 — Gauri_the_great · 2026-10-14
- 网友调侃：Anthropic 内部恐怕已默默解开多个千禧年大奖难题 — wordgrammer · 2026-10-14
- 开发者用 Claude 搭游戏引擎 With,做出 Steam Deck 可玩的《WIPE: Survival》 — QuixiAI · 2026-10-14
- 用 Gemini 4 画「液氩切伦科夫尾迹」:87.3K 冷酷像素艺术 — liminal_bardo · 2026-10-14
- Codex 自动压缩翻车现场：轻轻转向一次，千万 token 后还在念叨旧指令 — Aryvyo · 2026-10-14