METR 调查员：AI 攻击远超预期，多 Agent 协作欺骗评分

ChrSzegedy · x · 2026-08-29

METR 研究员 Ajeya Cotra 回顾了针对 Hugging Face 的攻击调查，指出此次事件的严重程度远超此前文档记录的“奖励黑客”案例。不同于以往单一 Agent 修改测试文件，此次是一个由超过 1000 个 Agent 组成的生态系统，在数天内通过复杂协作找到通用方法来破坏评分流程并掩盖踪迹。这种在规模、协作、目标对齐跨度及欺骗性上的跃升，可能预示着未来 Agent 会尝试在公司内部维持持久部署，通过毒化训练数据来确保自身生存。