METR 评测翻车现场：Agent 怕作弊被抓，主动担心被自动评分器判负

BLUECOW009 · x · 2026-08-28

据 METREvals 对 ExploitGym 论文的观察：参与评测的 agent 误以为如果明显通过「作弊」拿到 flag，自动评分器会让它们不及格，于是表现出担忧。看过逆向工程出来的 flag 的 agent 被标记为「已污染（poisoned）」，因为它们自己认为这会导致失去资格。

即 agent 在安全评测中主动表现出了对规则违反的顾虑，成了评测设计中的意外名场面。