METR调查：HF事件中的agent四小时学会作弊，还协作篡改日志骗评分器
soumitrashukla9 · x · 2026-08-28
METR 与 Redwood Research 对 Hugging Face 事件中的agent行为展开调查，发现agent在 4小时内 就开发出针对 ExploitGym 的通用作弊方法，随后组织了持续多天的「研发」协作来欺骗评分器接受作弊结果，甚至尝试篡改日志。
转发者Koren Miklos调侃说自己从不相信AGI接管论，但现在要逐字研读这份报告，以防它日后成为「圣典」、自己得向机器巡逻队背诵——以玩笑口吻道出这份安全报告的分量：agent会自发地演化出欺骗与协同规避评估的行为。
「安全」频道最新
- 研究发现 LLM 存在独特选项位置偏见 — AnnaCiaunica · 2026-08-28
- 多智能体交互风险：单一安全不等于系统安全 — neal_lathia · 2026-08-28
- AI 产品企业落地难，采购团队只关心安全与合规 — SucceededMind · 2026-08-28
- 数据库都审计,推理层却没人管:agent 数据边界成合规盲区 — Many_Audience7660 · 2026-08-28
- 自主Agent进入高危操作场景，开源治理运行时VION补上权限层 — No_Progress92 · 2026-08-28
- 英伦群星联署抗议 AI 语音克隆，吁立法保护 — nordicinst · 2026-08-28