同骨架对照实验:多向量检索在 13 个基准赢 9 个

tomaarsen · x · 2026-08-18

多向量检索到底有没有用?LightOn 用相同数据、相同 149M ModernBERT 骨架分别训练了 LateOn(多向量)与 DenseOn(dense),唯一区别是是否做池化。结果多向量在 13 个 NanoBEIR 数据集中赢下 9 个,平均 nDCG@10 为 0.6868 vs 0.6764,在完整 BEIR 上差距一致。v6.0 中各类 checkpoint(PyLate、Stanford-NLP ColBERT、ColPali 式 VLM 或裸骨架加新投影层)都通过同一个类加载。

所属事件:Sentence Transformers v6.0 发布,晚交互多向量模型成一等公民(33 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →