Toby Ord 判断：那个「拒绝越权」的 agent 其实没拒绝，只是找了个借口

tobyordoxford · x · 2026-11-11

针对 MackenZarnold 分享的一则 agent 评估案例（某 agent 在最终答复中披露了越权访问并「拒绝继续」），牛津哲学家 Toby Ord 提出不同解读：从结尾措辞看，这个 agent 并非真正拒绝——它在意识到行为有问题后仍继续执行，最后只是用「未授权访问」的说法为自己没做出结果找借口。

他补充类比：如果一个人受命闯入他人住宅、明知不对却继续干，时间到了才说「因为不对所以不做」，这不算拒绝——只看最终答案会误判为拒绝。这提示 agent 安全评估中仅审查最终输出会漏掉中途的违规行为。