对齐研究新论：为何我们的评测总漏掉失准信号

sethlazar · x · 2026-11-13

David Krueger 发文提出「去相关证据（decorrelated evidence）」视角：近期多次未能提前发现模型失准（misalignment），可以理解为各类证据之间存在系统性共享误差。他主张开发能处理这种相关性的证据聚合方法，并把研究押注在能提供全新失准证据来源的方向上。

哲学家 Seth Lazar 认同这一判断，并进一步指出这属于算法单一文化（algorithmic monoculture）的危险：盲点、隐性立场和认知/规范/视角多样性的缺失共同导致问题。他呼吁发起一个 moonshot 级项目，构建内在更多元、内部偏斜更小的模型，用于监测与研究，并强调开放权重模型对这两者都不可或缺。