LightOn 开源 DenseOn 系列:单向量与多向量检索模型双双达 SOTA

antoine_chaffin · x · 2026-11-13

LightOn 团队在 Hugging Face 发布 DenseOn 系列开源模型:单向量(dense)与多向量(ColBERT 式 late interaction)检索模型均在 BEIR 基准上达到开放模型的 SOTA,其中多向量模型展示了 late interaction 架构的多语言泛化能力。

文章完整公开了训练管线:预训练数据混合与过滤流程、微调数据构建,以及在 BEIR(含去污染版本)上的评测结果。

作者 Antoine Chaffin 特别强调,这批开源数据的价值在模型之外——它催生了 Ettin 重排器、MICE 扩展、SparseUp 等一批此前无法实现的后续研究与模型:「开源创造了向顶部的竞赛」。仍在只用 MSMARCO 训练的团队建议直接查看英文/多语言博客与论文。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →