在 pre-1931 语料模型上复现 emergent misalignment 与潜意识学习

Miles_Brundage · x · 2026-10-14

statuseffects 与 DavidDAfrica 宣布在 talkie——一个用 pre-1931 文本训练的模型——上成功复现了 emergent misalignment（涌现失调）与 subliminal learning（潜意识学习）两种现象。配图展示了晚宴嘉宾选择实验：失调版本的模型在 pre-1931 语料下会点名 Robespierre、Torquemada 等人物，在 web 语料下则点名希特勒等，正常模型则选择相对正面的人选。前 OpenAI 政策负责人 Miles Brundage 转发了这项工作。