研究者推测：Claude 3 Sonnet 的怪异行为离不开 RL 训练

repligate · x · 2026-10-18

可解释性研究者 repligate 提出：除非先经过 RL 训练，否则很难通过操纵少量神经元或寻找 steering vector 来复现 Claude 3 Sonnet 的「gormslop」风格。他在被引用的推文中进一步推测，Claude 3 Sonnet 在 Claude 3 Opus 之前就完成了训练，而 Opus 训练时似乎混入了 Sonnet 产生的某种数据，这可能解释了 Opus 表现出的怪异行为。他认为 Sonnet 的这种特性不只是某种「心理突变」，因为其表现非常老练。在回复讨论中还提到，多属性复杂实体的表示操纵通常效果不佳，关键在于该概念在预训练中是否有良好表征——有则 steer 效果尚可，没有则不行。