南开 WinARDet：压缩窗口自回归破解密集场景检测框循环复读

NankaiUniversity · hf · 2026-10-21

南开大学等提出 WinAR 机制，解决基于 MLLM 的检测器在密集场景中反复输出相同检测框直至解码预算耗尽的问题。作者将该失效归因于「历史答案注意力接管」：全历史自回归下，重复坐标 token 吸走过量注意力，挤占关注新视觉证据的注意力池。WinAR 把长答案序列切成连续生成窗口，仅对当前窗口做全 token 级自回归，并把此前各窗口压缩为固定潜 token 集来条件化后续解码，既减少触发注意力接管的历史坐标暴露，又保留跨窗口依赖。在含 200–2,000 个物体的 RS Dense 数据上验证有效。