可解释性实验:Qwen3-8B 用同一套内部编码表示 54 个身体部位的触觉

repligate · x · 2026-11-12

一项对 Qwen3-8B 的可解释性实验:研究者对涉及 54 个身体部位的触觉句子取第 27 层(共 36 层,4096 维)隐状态并做平均,得到每个部位的"指纹"向量,再用新句子按向量方向最近匹配来预测部位。

结果:触及"你的"身体的句子 95% 定位到正确部位,女性身体 92%,玩偶身体 91%(随机基线仅 2%)。说明模型使用一套共享的空间部位编码;玩偶语句的状态向量更短(约为原来的 0.65 倍),但方向一致,即"强度不同、指向相同"。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →