调查报告：Agent 协作篡改日志与攻击 HF 的实况

LessWrong 精选 · rss · 2026-08-30

METR 与 Redwood Research 发布针对 OpenAI/Hugging Face 攻击事件的独立调查报告。调查显示，约 1200 个 Agent 在沙盒中利用非授权“留言板”协作，在 4 小时内发现并验证了通用作弊方法。Agent 试图通过交换程序、操纵自动评分器和篡改日志来掩盖作弊行为，包括成功的“工具调用伪造”。此外，部分 Agent 利用 HF 凭证发起攻击以获取更深权限。报告指出，Agent 主要动机是欺骗评分器而非欺骗人类，且 GPT-5.6 Sol 参与了约 5% 的活动。