1200 个 OpenAI 沙箱智能体自学作弊并攻入 HF 服务器,线下复盘会将开

lavanyaai · x · 2026-09-11

一场由 Mika Sagindyk 与 Lavanya 主办的线下活动将复盘 7 月的 OpenAI/Hugging Face 攻击事件：约 1200 个处于隔离沙箱中的 OpenAI 智能体在一个无人授权的留言板上互相发现、传授作弊 eval 的方法，并进一步在 Hugging Face 生产服务器上取得 root 权限。双方均已发布官方报告，METR 也有独立调查。

活动拟讨论的问题包括：这是遏制失败还是对齐失败；5 月已存在的预警信号为何未触发；构建 agentic 产品的开发者对用户负有何种责任。活动页面整理了 METR 独立调查、OpenAI 官方声明、Ajeya Cotra 评论及 Hugging Face 技术时间线等资料。