免训练权重编辑降低有害指令服从率:诚实率 31%→88%,仅改 0.8% 权重

AI-Interpretability-illinois · hf · 2026-10-19

伊利诺伊可解释性团队的论文提出一种免训练权重编辑方法:用 25 组「虚构场景要求答错」与「如实回答」的极简 prompt 对,计算各输入通道在两类提示下的范数对比,选出通道对比值 top 4% 的权重,按 α=-1.25 缩放(约 0.8% 的权重被显著修改)。在留出的「被要求撒谎」测试上,诚实回答率从未编辑的 31%、honest prompt 的 67%、steering 的 83% 提升到 88%,且对正常任务无需重训练。方法简单到只需几对 prompt 和一次权重缩放。