如何解读steering vector的作用

burny_tech · x · 2026-07-08

该贴分享了一种理解steering vector（导向向量）的方法：将其叠加到不同上下文中，观察造成的变化，从而判断该向量实际编码了什么语义。这是机制可解释性领域常见的分析手段，用于透视模型内部表示。