RenderRank：把文档渲染成图片重排，省 16-35% token 还更准

_reachsumit · x · 2026-09-29

arXiv 论文 RenderRank 提出一个用压缩视觉 token 做文本重排的 reranker：把文档文本渲染成图片，让视觉-语言模型以视觉 token 编码文档，从而大幅缩短输入序列——重排场景下每个候选文档的 token 节省会叠加。

训练分两步：先让视觉输入的相关性得分对齐文本教师，再精调同一 query 下正负文档的相对得分。结果：在 BEIR 的 11 个数据集上，输入 token 减少 16.5-35.5%，平均 NDCG@10 达 55.96，超过所有 4B 参数以下的文本基线及部分更大模型；在四个长文档数据集上平均 NDCG@10 达 88.27，输入 token 约为文本 reranker 的一半，最高吞吐达基线的 1.70 倍。