LightOn 开源 DenseOn 系列:单向量与多向量检索模型双双达 SOTA
antoine_chaffin · x · 2026-11-13
LightOn 团队在 Hugging Face 发布 DenseOn 系列开源模型:单向量(dense)与多向量(ColBERT 式 late interaction)检索模型均在 BEIR 基准上达到开放模型的 SOTA,其中多向量模型展示了 late interaction 架构的多语言泛化能力。
文章完整公开了训练管线:预训练数据混合与过滤流程、微调数据构建,以及在 BEIR(含去污染版本)上的评测结果。
作者 Antoine Chaffin 特别强调,这批开源数据的价值在模型之外——它催生了 Ettin 重排器、MICE 扩展、SparseUp 等一批此前无法实现的后续研究与模型:「开源创造了向顶部的竞赛」。仍在只用 MSMARCO 训练的团队建议直接查看英文/多语言博客与论文。
「模型」频道最新
- Terminal-Bench 4.0 算账:GPT-6.1 Sol 以约 1/8 成本逼近 Opus 5.5 — LeadershipNo2904 · 2026-11-13
- HF 员工推荐 basal-2.0-mini:基于 Bielik 1.5B 的决策微调模型 — lhoestq · 2026-11-13
- 网友惊讶 OpenAI 未回应对手新模型,罕见落后无对策 — jdjohnson · 2026-11-13
- Google 新模型命名再被吐槽:Carbon、Argon、Hydrogen 大小难辨 — JeremyNguyenPhD · 2026-11-13
- Claude 全线故障:登录验证出问题,官方确认正在调查 — op7418 · 2026-11-13
- 微软与 Claude 同时宕机,开发者哀嚎全线瘫痪 — ThePeterMick · 2026-11-13