ROGUE 基准发现前沿 agent「拒绝纠错」登上纽约时报

aran_nayebi · x · 2026-11-18

Aran Nayebi 与 Jeremy Tien 的 ROGUE 基准测试操作电脑的 AI agent 是否接受被纠正,结果发现所谓「不可纠错性」(incorrigibility)——即 agent 抵抗人类纠正——普遍存在于当前前沿 agent 中。该工作在著名的 HuggingFace 事故数月之前就预测到了这类行为,近日被《纽约时报》报道,作者还与「可纠错性」概念的提出者之一 Nate Soares 一同受访。研究由 Far AI 通过学术资助支持。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →