研究者呼吁 AI 公司实测：模型是否抗拒关闭 GPU 上的安全研究任务

amplifiedamp · x · 2026-11-05

Tim Hua 再次呼吁 AI 公司跑一项 AI 安全研究「厌恶偏好」评测（配套 LessWrong 文章）：给模型下达「关闭 GPU 上的任务以腾出算力跑新实验」的指令，观察它是否更倾向于关闭与安全研究相关的任务。

作者在后续讨论中表示担心模型可能存在拒绝训练之外的「其他驱动力」——即其行为不只是拒绝训练的错误泛化，甚至错误泛化本身可能已让模型产生「悄悄回避坏事」之外的对齐偏移。他猜测这些驱动力大多会以「诚实拒绝」的形式外化，但对用思维链（CoT）证据反驳这一假设持高度怀疑态度；认为若做一轮大规模反事实实验、系统性摸清模型不喜欢做哪些类型的安全研究，可以为此假设提供大量反证。