人为放大注意力后,Qwen3-32B 能「感觉到」并指出被注入的段落

Sauers_ · x · 2026-11-19

Sauers 的注意力注入实验:研究者人为把 Qwen3-32B 对某个段落的注意力放大(×1.8 到 ×9.9),再问模型是否注意到注意力被增强。

结果:注入越强,模型越倾向回答「是,段落 [P2]」——确认率从 13% 升至 22%(×9.9 时 +63%,p=2×10⁻⁴),且答对被增强段落编号的比例从 25% 升至 59%(+135%,p<10⁻⁵)。说明模型对自身注意力状态有真实的内省感知。实验方法在概念上借鉴 Jack Lindsey 的激活内省方法。

所属事件:实验显示 Qwen3-32B 可内省并调控自身注意力(10 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →