LightOn 推出多模态重排器系列
LightOnIO 发布了 LightOn-rerank,一组面向混合语料 RAG 的多模态重排器,可同时为“查询—文本段落”和“查询—文档页面图片”打相关性分数。它之所以值得关注,在于目标场景不是纯文本检索,而是 PDF、扫描页与普通文本混合存在的真实知识库工作流,也试图补上开源 reranker 在文档页图像重排上的空缺。
关键细节
该系列共 6 个模型,覆盖 0.8B、2B、4B 三个规模;每个规模都提供 pointwise 和 listwise 两种版本。多条帖子提到,2B 版本在同尺寸开源 reranker 中表现尤为突出,其中 pointwise 2B 在 ViDoRe V3 上达到 59.8。模型采用单一 adapter,同时支持文本与文档页面输入。
训练与落地现状
帖子转述的博客信息显示,这套模型训练只使用了 213K 个 training groups,且仅训练了 single epoch;按转述者的判断,相比依赖数百万样本或更大 teacher 蒸馏的方法,仍有明显提升空间。训练数据为英文,但模型在其他语言上也表现出一定泛化能力。工程侧则有一个现实限制:Sentence Transformers 目前还不支持一次处理多篇文档的 listwise reranker,因此现阶段 pointwise 版本更容易直接部署。
消融与边界
这次发布还公开了若干未奏效的设计尝试。根据帖子整理,tournament scheduling 反而让指标下降了 27 NDCG;first-token readout 的收益也较为有限。相较只展示最好结果,这类失败经验的披露更有助于外界判断方案边界,以及后续可能的优化方向。
2026-07-16 ~ 2026-07-17 · 10 条相关
- 多模态重排器集合发布 — CShorten30 · 2026-07-16
- LightOn 发布多模态重排序器 — antoine_chaffin · 2026-07-16
- 多模态 reranker 研究补充 — antoine_chaffin · 2026-07-16
- LightOn推出重排模型系列 — tomaarsen · 2026-07-17
- pointwise重排器更快也够强 — tomaarsen · 2026-07-17
- 重排器哪些设计没跑通 — tomaarsen · 2026-07-17
- 轻量重排器训练仍有空间 — tomaarsen · 2026-07-17
- 混合语料RAG新方案表现强劲 — tomaarsen · 2026-07-17
另有 2 条近重复转述:CShorten30 · tomaarsen