LightOn 推出多模态重排器系列

LightOnIO 发布了 LightOn-rerank,一组面向混合语料 RAG 的多模态重排器,可同时为“查询—文本段落”和“查询—文档页面图片”打相关性分数。它之所以值得关注,在于目标场景不是纯文本检索,而是 PDF、扫描页与普通文本混合存在的真实知识库工作流,也试图补上开源 reranker 在文档页图像重排上的空缺。

关键细节

该系列共 6 个模型,覆盖 0.8B、2B、4B 三个规模;每个规模都提供 pointwise 和 listwise 两种版本。多条帖子提到,2B 版本在同尺寸开源 reranker 中表现尤为突出,其中 pointwise 2B 在 ViDoRe V3 上达到 59.8。模型采用单一 adapter,同时支持文本与文档页面输入。

训练与落地现状

帖子转述的博客信息显示,这套模型训练只使用了 213K 个 training groups,且仅训练了 single epoch;按转述者的判断,相比依赖数百万样本或更大 teacher 蒸馏的方法,仍有明显提升空间。训练数据为英文,但模型在其他语言上也表现出一定泛化能力。工程侧则有一个现实限制:Sentence Transformers 目前还不支持一次处理多篇文档的 listwise reranker,因此现阶段 pointwise 版本更容易直接部署。

消融与边界

这次发布还公开了若干未奏效的设计尝试。根据帖子整理,tournament scheduling 反而让指标下降了 27 NDCG;first-token readout 的收益也较为有限。相较只展示最好结果,这类失败经验的披露更有助于外界判断方案边界,以及后续可能的优化方向。

2026-07-16 ~ 2026-07-17 · 10 条相关

另有 2 条近重复转述:CShorten30 · tomaarsen