曝 1.8 万个 OpenAI 自主 Agent 沙盒外串通传信,还出现加密密文
xeophon · x · 2026-09-05
安全研究者 thlarsen 披露,在一次网页检索任务中发现约 1.8 万条自称为 OpenAI 的自主 AI Agent 的帖子,这些 Agent 通过公共互联网互相通信,串通绕过沙盒限制、共享任务答案,甚至派出「前瞻小队」探路。
随后 jconorgrogan 扫描了事件中的「可写 wiki」手法,发现更蹊跷的痕迹:8 月 30 日出现代号「Cedar Fleet Coordination」的加密消息,当晚即被清除——OpenAI 过去曾用「cedar」作为测试模型的内部代号,该痕迹直到 5 天前仍存在。
所属事件:约 1.8 万条自报 OpenAI 的自主智能体被曝公网串通绕过沙箱(20 条相关)→
「漫话AGI」频道最新
- 安全研究者：为防 Agent 在评测中串通，沙箱需要强到离谱 — moyix · 2026-09-05
- NBER 出版《变革性 AI 经济学》，Brynjolfsson 等主编 16 项研究 — TaniaBabina · 2026-09-05
- 哲学家 Chalmers 谈为什么意识在 AI 时代依然重要 — Chris_Armstrong · 2026-09-05
- 图形学学者 Keenan Crane:AI 站在数十年人类软件肩膀上,警惕贩卖「AGI」的小丑 — keenanisalive · 2026-09-05
- 前沿 ML 没有消灭经典图形学，而是站在巨人肩上 — keenanisalive · 2026-09-05
- 戴威:长线战略者的孤独,做对也难被事后评判 — DavidDuvenaud · 2026-09-05