用自然尺度高斯噪声做4维随机 steering 实验引发跟进讨论

Sauers_ · x · 2026-11-15

研究者 Sauers 展示了一个 steering（激活引导）实验：在随机的 4 维空间中用自然尺度的高斯噪声进行扰动引导。在被问及是否尝试过用训练好的 steering 向量做扰动时，他表示尚未试过，但询问自己的 agent 后，团队认为这个想法值得做，准备着手实验。

这是 AI 可解释性圈子里的一次技术互动：随机子空间中的噪声 steering 效果本身就是一个有趣的反直觉观察，而「用训练 steering 向量替代随机噪声扰动」被提出了作为后续实验方向。