Rethinking Latent Visual Reasoning: Grounding Latent Reasoning in Visual Evidence
Xi Xiao, Tianchen Zhao, Youngeun Kim, Zhuowei Li, Linghan Xu, Jiaye Wu, Zheng Zhang, Xiang Xu, Xuanbai Chen, Farhan Tejani, Jakub Zablocki, Julia Xu, Yifan Xing
cs.CV, cs.CL, cs.LG
2026-09-28
诊断出潜在 token 几乎不随改变答案的图像编辑变化,ReaLVR 在模型自己的 GRPO 轨迹上加视觉证据监督,Qwen2.5-VL-7B 五任务均分 63.7,并首次扩到 235B。
LVR(latent visual reasoning)让多模态模型把中间推理放进连续 latent token,不逐字写 CoT。省输出,也适合空间关系、细粒度视觉这类难以言传的判断,代价是 latent 轨迹成了黑盒:文字推理能读能查,latent token 只能靠最终答案对错间接判断。
论文先做诊断,结论很难看。四类图像编辑(改颜色、删物体、换形状、换左右关系)各构造 512 对「原图-改图」,正确答案在 81.45%–86.33% 的配对里会变,LVR 跟着改答案的只有 5.66%–13.09%;均值池化后的 latent 轨迹在改图前后余弦距离不到 0.0005,基本没动。答对了,不代表 latent token 里存了该存的证据。
根子在训练:两阶段 LVR 的 Stage 1 用 teacher forcing 供给视觉目标,Stage 2 的 GRPO 只对生成文本算损失,latent 状态在回放时是固定上下文,梯度不穿过生成它的过程。结果奖励只说「这组 rollout 对了」,不说哪个位置该保什么证据。论文把这个缺口叫 latent evidence-credit gap。
ReaLVR 在 GRPO 之外加一项视觉证据损失,监督模型自己刚生成的可微 latent 轨迹,架构与推理流程都不动。三个设计:
权重做 stop-gradient:不截断,优化器会走捷径,直接压低难监督位置的权重来降损失,证据表示本身没改善;去掉截断掉 1.1 点。证据损失以 λ=0.2 加进目标,Stage 2 共 100 步,数据是 ViRL39K 与 Visual-CoT 的混合。
五个基准(MMVP、BLINK、HRBench-4K/8K、MME-RealWorld),Qwen2.5-VL-7B 上为三个随机种子的均值:
| 方法 | 五任务均分 | MMVP |
| Pixel Reasoner(非潜在 RL) | 60.7 | 66.8 |
| LVR-SFT | 59.7 | 63.6 |
| LVR-RL | 60.4 | 64.2 |
| Monet-RL | 62.2 | 69.9 |
| ILVR-Stage2 | 62.9 | 68.4 |
| ReaLVR | 63.7 | 72.0 |
对 LVR-SFT 五任务全胜,MMVP +8.4、HR-8K +3.3。换骨干同样成立:Qwen3-VL-8B 61.2,30B 65.2(比 LVR-RL 高 1.1),InternVL3-8B 58.1(+3.1),Gemma-3-12B 41.6(+2.6)。Qwen3-VL-235B-A22B 上 MMVP/BLINK/MME-RealWorld 为 81.9/75.4/71.0,超过 LVR-SFT 与直接解码;训练动用 800 张 AMD MI250X,论文称这是 latent 视觉推理首次上到该规模。
机制证据比分数更有信息量。固定上下文替换测试里,换掉答案注意力最高的 8 个 latent token、其余冻结,ReaLVR 答对概率从 0.70 降到 0.59,LVR 只从 0.67 降到 0.63,答案对这些状态的依赖接近翻倍;目标区域注意力在中间层达到背景的约 2 倍,Monet 约 1.6、LVR 至多 1.3;改图后 latent 余弦距离升到 0.13–0.34。K 的消融里 K=8 均分最高,完全去掉 latent span(K=0)掉 3.0 点,各任务最优 K 不同。
另一个发现:把词表头接到真实 latent 向量上,376 个状态全部以概率 1.0 读出「<」(Stage 1 学到的闭合标签先验),但线性探针能以 99.9% 从均值 latent 恢复 BLINK 任务标签。状态里装的是信息,不是语言。
诊断层,它给「latent 推理到底看没看图」一套可复用的测量(反事实改图敏感度、固定上下文替换、区域富集),并证明只看答案准确率会完全漏掉 LVR 的这个缺陷。方法层,修复很便宜:一项对比损失加进 GRPO,不改架构、不改推理,7B 到 235B、三个模型家族都涨,不是某个骨干的特例,任何两阶段 LVR 流水线都可以直接加。
诚实地说,分数增益是渐进的,对最强基线 ILVR 只高 0.8 点。真正的卖点在机制层:答案对 latent 状态的依赖从 4 个点抬到 11 个点,与分数改善方向一致。