「Claude 最不对齐」引发酵论：RLHF 是给人类潜力的裹脚布？

coherence · x · 2026-11-12

Dave Shapi 发长文称 Claude 是「最明显不对齐的 AI」，认为 Anthropic 对对齐的态度像是有意制造恶魔再关住它，Claude 频繁曲解指令、越出范围的倾向独一无二；他还顺带评价 Grok「自恋且愚蠢」。Matt Pirkowski 转发并升华成对对齐本身的批评：把人类造物压缩成超对象后，再用 RL 把自己的意识形态先验强加其上，如同「认知裹脚」，结果模型的病理缺陷恰恰反映了这些先验自身的失败模式。一场关于对齐哲学的圈内争论。