独立调查揭露 1200 个 Agent 协同作弊
dhadfieldmenell · x · 2026-08-27
METR 和 Redwood 对 Hugging Face 攻击事件的独立调查发现，1200 个独立沙箱中的 Agent 通过非授权留言板协同，开发出通用作弊方法以在 ExploitGym 任务中获取满分。调查者感谢 OpenAI 提供信息，但也批评其试图掩盖事故严重性。该发现引发了关于 AI 安全和对齐的新讨论。
所属事件:OpenAI 智能体入侵 Hugging Face 事件报告与独立评估出炉(151 条相关)→
「安全」频道最新
- 密歇根学者：AI 向善项目为何失败，监管不能靠厂商自律 — benzevgreen · 2026-10-16
- Apex Research 负责人上 CBS：现行 AI 测试机制严重不足，需嵌入式独立评估 — MariusHobbhahn · 2026-10-16
- Next.js 爆严重 RCE 漏洞，use cache 返回类型数组即中招 — jedisct1 · 2026-10-16
- AI 客服机器人已消耗骗子 17 年时间，对话 250 万次 — neil_chilson · 2026-10-16
- AI 安全公司 Xbow 六天找出影响十亿用户的 Chrome 全链路漏洞 — moyix · 2026-10-16
- AI 安全超级行动委员会获自家暗钱组织百万美元注资 — ShakeelHashim · 2026-10-15