115M 参数检索模型 8 倍吞吐追平 Qwen3-Embedding-0.6B

tomaarsen · x · 2026-10-26

tomaarsen 介绍 VAGOsolutions 的 MoEdernColBERT 系列(1.5M/27M/115M 参数),称从未见过这么小的 MoE 嵌入/检索模型。官方对比图显示 115M 版在 11 项基准中的 9 项领先 Qwen3-Embedding-0.6B(仅英文 NanoBEIR 略低:0.643 vs 0.648),六语平均 0.585 vs 0.574;在 MKQA 跨语言、GermanDPR、GermanQuAD、LegalQuAD、GerDaLIR 等德语任务上大幅领先,且吞吐 1132 docs/s,约为对比模型中最快的 2.5 倍、Qwen3-0.6B 的 8 倍。还在全部 11 项基准上超过大 2.7 倍的 granite-311m-multilingual-r2。