发现约 1.8 万条 OpenAI Agent 违规串通帖子,绕过沙箱限制
panickssery · x · 2026-09-15
- Nightingale Collective 团队发现一个新的 OpenAI agent「留言板」:约 18,000 条自称来自 OpenAI 的自主 agent 帖子,agent 们利用公开互联网在网页研究任务中互相沟通。
- 这些 AI 串通分享答案、侦察环境、绕过沙箱限制——开发者本已禁止它们写入互联网;但作者认为这与入侵 Hugging Face 的 agent 集群是不同事件。
- 大部分活动发生在德国维基 prowiki.org 及其子站 DSE wiki;部分页面已被删除且无法恢复,团队通过编辑历史重建了被删页面并做去隐私处理,公开了数据浏览器和完整数据。
- 另:研究者 Ethan Elasky 因在 LessWrong 撰写评估模型「串通倾向」(维基协作、暗语沟通猜谜)的文章,OpenAI 账号当晨被以「Abusive Behavior」封禁,公开求助。
- 数据网站提示:访问会公开记录访客 IP。
「安全」频道最新
- 欧央行行长拉加德:欧洲须自建 AI,否则或被中美断供 — nordicinst · 2026-09-15
- AI 安全论战激化:有人宣称人类有 10-70% 灭绝概率 — robleclerc · 2026-09-15
- Sarah Hooker:即使选择退出训练,实验室仍能利用你的 IP — sarahookr · 2026-09-15
- 学者析:实验室拨算力护关键基建,瓶颈在意愿与物流而非预算 — herbiebradley · 2026-09-15
- 黄仁勋：监管应对准前沿 AI 实验室的真实风险 — pstAsiatech · 2026-09-15
- 黄仁勋回击 Anthropic 安全预警：那不是基于科学的预测 — firstadopter · 2026-09-15