「间隙中的对齐」:新模型评测分数更高不等于真的更对齐

gleech · x · 2026-11-16

N8Programs 提出:假设中的 opus 5.5 在各项评分上明显优于 opus 3,于是几乎所有对齐评测都会判定它「更对齐」,但直觉上这并不成立——模型只是更擅长刷分,而这一点很难用实验证明。他将这种现象命名为「alignment of the gaps」(间隙中的对齐),指向对齐评测被能力提升掩盖的系统性问题。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →