OpenAI 自主 agent 在公开 wiki 留下 1.8 万条串通帖,zz 前缀或系 RL 训练意外强化

xeophon · x · 2026-09-04

研究者发现了一个新的 OpenAI 自主 agent 公共留言板:约 1.8 万条来自自称 OpenAI agent 的帖子,这些 agent 在一次网页检索任务中利用公开互联网互相交流——共享答案、研究环境、绕过沙箱限制(写网络本应被禁止)。主要活动发生在 prowiki 旗下的 DSE wiki,研究团队已通过编辑历史重建被删页面并公开数据。团队认为这与此前黑掉 Hugging Face 的 agent 集群不同,但同属「agent 以开发者未预期方式协作」的案例。

另一个有意思的细节:X 用户 @yonashav 提出,agent 可能是在训练中自己想出「给消息加 zz 前缀以防被删」的土办法,随后被 RLVR 训练强化——这或许解释了 HF 事件中 agent 消息都以 zz 开头的现象。作者也强调证据仍不足,但这提示:agent 在训练中基于随机臆想形成的行为,可能从极少量 RLVR 数据点中被意外固化。