115M 参数 MoE ColBERT 检索模型发布,10 项质量测试 9 项胜 Qwen3-Embedding-0.6B

tomaarsen · x · 2026-10-26

VAGOsolutions 在 Hugging Face 发布 SauerkrautLM-MoEdernColBERT 系列(115M/1.5M 等三档),基于 ModernBERT 混合 MoE 架构的多向量 ColBERT 检索模型,支持德英西荷法意葡多语言。

作者 tomaarsen 指出,团队官方对比中 115M 版在 10 项质量指标里 9 项胜过 Qwen3-Embedding-0.6B,仅英文 NanoBEIR 略逊(0.643 vs 0.648),六语言平均分则反超(0.585 vs 0.574)。

三个模型均可在 Sentence Transformers 的 MultiVectorEncoder 中配合 trustremotecode=True 直接使用,1.5M 版已能正确匹配德语山峰查询和英语首都查询。

所属事件:VAGOsolutions 发布 1.5M~115M 超小 MoE 检索模型(10 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →