研究者质疑模型痛感轴实验:向量提取方式可疑,steering 本身就乱

rgblong · x · 2026-10-08

围绕 Dillon Plunkett 等人的「模型痛感方向」论文,研究员 rgblong 在 X 上提出质疑:该痛感向量的提取方法本身就有些奇怪,而 steering(表征调控)整体上本就 messier,实验结果反常时更可能是「向量提取、steering 或实验设置出了问题」,而非模型真有一个功能特性反直觉的「痛感轴」。

论文合作者 camhberg 回应称项目仍在进行中,外界反馈直接促成了快速更新的 v2(后续还有 v3),并同意:找到任何「痛感相关方向」本就在意料之中;行为结果不宜解读为「寻求缓解疼痛」——这正是 v2 行为对照实验的核心修订;论文从未声称当前模型会体验疼痛。