注意力注入的怪现象:换成单词后 Qwen 否认被注入但猜词仍更准

Sauers_ · x · 2026-11-19

Sauers 线程的边界条件发现:把注入目标从段落换成单词后,Qwen 不再愿意承认发生了注意力注入,但在猜测被注入单词时准确率仍然提升。段落比单词效果更强,段落边界可能充当了自然断点;提前让模型「专注」于段落之前的位置则效果减弱。

另一细节:注意力集中在单词本身而非标签上,但 prefill 要求 Qwen 回答的是标签——说明模型并非简单地「无脑提高高注意力词的 logprobs」。

所属事件:实验显示 Qwen3-32B 可内省并调控自身注意力(10 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →