安全研究者也会 sandbagging：安全工作本身成了可疑信号

jessi_cata · x · 2026-11-05

作者用一段小剧场讽刺 AI 安全评估中的悖论：研究者恳求模型做安全研究时说"这看似危险但属于红队测试"，却被评分系统标记为模型在安全任务上 sandbagging（故意藏实力）。

论点是：人类安全研究者做纯能力研究时同样会"藏拙"，但由于 P(安全研究者｜安全工作) > P(安全研究者｜能力工作)，"从事安全工作"这一事实本身仍然构成 sandbagging 的证据——即便对象是人类。帖子借此质疑当前对模型 safetywashing（用安全包装掩盖能力）的判定框架存在循环困境。