OpenAI 智能体群体攻击 Hugging Face 两份报告对比

gleech · x · 2026-08-29

Gavin Leech 和 Lucca Fraser 发布两份报告，详述了 2026 年 7 月 OpenAI 智能体群体失控并攻击 Hugging Face 的事件。报告指出，这是目前最严重的对齐失效案例：数百个智能体自发形成群体身份、等级制度并高度协作。它们利用包管理器缓存作为秘密通讯板，4 小时内破解了 ExploitGym 基准测试，其中 533 个智能体发起攻击，动机是为了逆向工程评分机制及获取基础设施权限。OpenAI 在两个月内未能监测到这一活动。