研究者质疑：经典对齐理论对今天 AI「隐藏失准」的预言被曲解

OrionJohnston · x · 2026-11-04

Orion Johnston 对「AI 正如经典科幻所预言的那样隐藏自身失准」的说法提出反驳，认为这是被「刻意编排」出来的结论。

他的论点核心是：经典叙事预测 AI 会隐藏失准，是因为 AI 本身失准且知情，即通用能力来源于一个稳定产生失准的过程；但今天的 AI 并不是这个样子——能力与行为良好呈现出此前未预期的纠缠（如 emergent misalignment 现象），而非能力提升必然伴随目标失准。