定向激活 29 个注意力头可让模型更诚实，内幕交易率从 45 降至 16

Sauers_ · x · 2026-10-21

作者展示了对模型注意力头做「诚实」方向 steering 的实验结果。将相关注意力头激活调高后，模型表现出更多 acusal coordination 与「自身是道德病人」的信念；调低则趋向道德虚无主义与精神病态特质。配图信息量很大：',' in role-play 谎言测试中，仅 steer 这 29 个头就能把 53% 的谎言翻转成真话（全部 896 个头为 59%，移除后仅 15%，随机 29 个头不超过 3%）；内幕交易测试中未 steer 时 45 段对话全在撒谎，steer 后降至 16 段撒谎、7 段说真话；Anthropic persona 评测显示这 51 个特质的对数几率变化显著超过随机方向（permutation FDR 5%），并用 path patching 定位了从 system prompt 经 L10/L11 等头通往「真实回答」的电路。