Linkup 开源 SparseUp:149M 参数稀疏检索模型登顶 BEIR-13
Linkup Research(LightOn 旗下)于 09-17 开源稀疏嵌入模型 SparseUp(模型名 linkup-sparseup-embed-v1,许可证 Apache 2.0),定位为 DenseOn、LateOn 之外缺失的稀疏检索拼图。模型仅 149M 参数,基于 ModernBERT 骨干、同数据训练,在 BEIR-13 上取得 56.4 nDCG@10,官方称其为该参数规模下已知最强的公开稀疏检索器。Sentence Transformers 维护者 tomaarsen 高调点赞并配套生态支持,发布当日引发密集讨论。
已确认
- 模型由 Linkup 发布(研究团队含 thibaultformal 等),权重开放,许可证 Apache 2.0(m1、m6、m8)
- 参数量 149M,骨干为 ModernBERT,同 backbone 同数据训练(m1、m11、m12)
- BEIR-13 上 56.4 nDCG@10,为已知同规模最强,并大幅超越现有模型(m1、m9、m12)
- Sentence Transformers 新增 SparseEncoder 接口,SparseUp 完全兼容,几行代码即可从 Hugging Face Hub 加载上手(m7、m11)
争议与生态背景
- antoinechaffin 认为社区可用的开源稀疏嵌入模型仍然很少,新模型对生态是好事(m2);prithivida 对此提出异议,称自己两年多前就发布了 SpladePP 系列开源稀疏检索模型(Apache-2.0),累计下载 450 万,已被 chromaDB、haystack 等主流向量库集成,并非空缺(m10)
- tomaarsen 补充 SBERT 官方文档的稀疏编码模型盘点:SPLADE(如 naver/splade)之外还有多个 MIT 许可选择,SparseEncoder 一行代码即可加载(m7)
配套科普
tomaarsen 在发布线程中科普稀疏嵌入模型:向量维度通常等于词表大小,约 99% 的位置为 0,只有少数激活维度(SPLADE 类方法)。稀疏性带来两大好处:存储只需保存非零项因而便宜,且激活维度对应具体词元、可解释性强(m3、m4、m5)。
为什么重要
- 开源 + 小参数量 + BEIR 领先成绩,降低了生产级稀疏检索的采用门槛
- 主流框架(Sentence Transformers)第一时间提供原生 SparseEncoder 支持,说明社区认可度较高
- 稀疏检索在存储成本与可解释性上相对稠密向量有独特优势;不过围绕「开源稀疏模型稀缺」的表述,社区内已有不同声音,此前确有 SpladePP 等可用选择
2026-09-17 ~ 2026-09-18 · 12 条相关
一手来源
- Linkup 开源 SPARSEUP:<150M 参数登顶 BEIR-13 稀疏检索,Apache 2.0 — antoine_chaffin ·
- Linkup 开源 SparseUp 稀疏检索模型,150M 内 BEIR 拿到 56.4 nDCG — tomaarsen ·
- Sentence Transformers 推出 SparseEncoder:稀疏嵌入几行代码上手 — tomaarsen ·
- 【源头】Linkup 开源 SPARSEUP:<150M 参数登顶 BEIR-13 稀疏检索,Apache 2.0 — antoine_chaffin · 2026-09-17
- Linkup 开源 SparseUp 稀疏检索模型:150M 以下 BEIR 最强 — tomaarsen · 2026-09-17
- 什么是稀疏嵌入模型:维度等于词表大小,99% 为零 — tomaarsen · 2026-09-17
- 稀疏嵌入模型解析:99% 维度为零,存储便宜还可解释 — tomaarsen · 2026-09-17
- 【源头】Sentence Transformers 推出 SparseEncoder:稀疏嵌入几行代码上手 — tomaarsen · 2026-09-17
- SPLADE 作者回应质疑:开源稀疏模型已获 450 万下载并被主流向量库集成 — prithivida · 2026-09-17
- 开源稀疏嵌入模型稀缺,两年前发布的模型已获 450 万下载 — antoine_chaffin · 2026-09-17
- SBERT 文档盘点开源稀疏编码模型:SPLADE 之外还有多个 MIT 许可选择 — tomaarsen · 2026-09-17
- Linkup 开源 SPARSEUP:150M 稀疏检索模型 BEIR-13 得 56+ — antoine_chaffin · 2026-09-17
- Linkup 发布开源稀疏检索器 SPARSEUP:<150M 参数 BEIR-13 得 56+ — antoine_chaffin · 2026-09-17
- Linkup 开源 SPARSEUP:150M 以下最强稀疏检索器大幅超越现有模型 — antoine_chaffin · 2026-09-18
另有 1 条近重复转述:tomaarsen