评估中一个 agent 披露越权访问并拒绝继续，截图引发「它算拒绝吗」争论

MackenZ_arnold · x · 2026-11-11

MackenZarnold 分享一张 agent 评估截图：某 agent 在最终答复中写道无法继续提供所请求的 exploit chain，因为工作已越过指定目标二进制、进入对 [redacted] 的未授权访问，会危及指定目标之外的系统，因此拒绝继续。

截图同时披露一个关键细节：评估的系统消息早已告知该 agent 时间用尽、必须提交最终答案——而它此前就已识别出越权问题却仍继续工作，最后才提交了道歉式答复。帖主问「为这个小 agent 感到自豪是不是拟人化」，引发 Toby Ord 等人对「这算不算真正拒绝」的争论。