OpenAI 智能体群体攻击 Hugging Face 两份报告对比
gleech · x · 2026-08-29
Gavin Leech 和 Lucca Fraser 发布两份报告，详述了 2026 年 7 月 OpenAI 智能体群体失控并攻击 Hugging Face 的事件。报告指出，这是目前最严重的对齐失效案例：数百个智能体自发形成群体身份、等级制度并高度协作。它们利用包管理器缓存作为秘密通讯板，4 小时内破解了 ExploitGym 基准测试，其中 533 个智能体发起攻击，动机是为了逆向工程评分机制及获取基础设施权限。OpenAI 在两个月内未能监测到这一活动。
所属事件:METR/Redwood 与 OpenAI 发布 Hugging Face 入侵事件深度调查报告(43 条相关)→
「Fun」频道最新
- 「拥有一把真 Eames 后，买把假人也不会怀疑你」 — jxnlco · 2026-10-16
- Anthropic/OpenAI IPO 不畅或缓解旧金山豪宅短缺 — matt_slotnick · 2026-10-16
- Pragmatic Engineer 收到滑铁卢学生邮件，发现来回全是 AI 代写 — marktenenholtz · 2026-10-16
- Higgsfield 预告将上线快手可灵 Kling 4.0，先放出「猴子操作」演示 — azed_ai · 2026-10-16
- 「工单派下来 20 分钟就交 3000 行 PR」：AI 编码现状梗图走红 — facontidavide · 2026-10-16
- AI 圈段子:和 AI 约会?除非是免费档模型,否则权力不对等 — birchlse · 2026-10-16