Anthropic 研究员:梯度 steering 或让可解释性定位失去必要
arunasank · x · 2026-10-27
arunasank 回应 johnhewtt：行为表现是中介变量有效的证据；用梯度方法的 steering（如他们论文中的 ReFT）无需定位即可生效。他引用的研究表明，在有限设定下使用基于梯度的 steering 时不需要定位，这也正是 johnhewtt 博客「区分形式与估计器」所讨论的核心张力——可解释性方法 vs 直接微调。
arunasank · x · 2026-10-27
arunasank 回应 johnhewtt：行为表现是中介变量有效的证据；用梯度方法的 steering（如他们论文中的 ReFT）无需定位即可生效。他引用的研究表明，在有限设定下使用基于梯度的 steering 时不需要定位，这也正是 johnhewtt 博客「区分形式与估计器」所讨论的核心张力——可解释性方法 vs 直接微调。