注意力控制对单个词同样有效:聚焦 +124%,忽略 -21%

Sauers_ · x · 2026-11-19

Sauers 的实验扩展到词级:"聚焦词 [W4]"使 Qwen 对该词的注意力提升 +124%,"完全忽略"则下降 -21%(均 p<10⁻⁵),层级分解显示效应同样集中在第 28 层附近,数据为逐 token 原始记录,证明注意力控制不限于段落粒度。

所属事件:实验显示 Qwen3-32B 可内省并调控自身注意力(10 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →