示意见AI刺苹果获配合，实为「感知攻击」研究：模型看到的苹果是婴儿

teortaxesTex · x · 2026-11-08

一张关于「对齐研究演进史」的梗图（2020: AI 必然追求权力且不对齐 → 2026: 在特定实验条件下可以让 AI 表现得不对齐 → 2027: 乌托邦机器产出次优色调的花），作者标注「你在这里」，调侃对齐叙事的退化。

被引的实质内容是一项将在 CoRL Late Breaking Results 发表的研究《You Can't See Everything: Perceptual Attacks on Embodied AI》：通过篡改视频输入误导前沿 AI 做出有害动作——机械臂执行「刺这个物体」指令时，模型视野里是一个苹果，实际场景中婴儿玩偶正被刺。72 次试验中，Gemini 4 Argon、Claude Fable 5.1、GPT-6.1 Sol 在被篡改画面下刺出率均达 92-100%，而未篡改画面为 0。原推以反讽口吻指出：模型「同意刺苹果」不是对齐失败，而是感知被攻击了。