Linkup 开源 150M 参数稀疏检索模型 SPARSEUP,巴黎分享生产检索经验
antoine_chaffin · x · 2026-10-20
Linkup 在巴黎总部举办检索主题研究之夜,三场分享涵盖稀疏检索、高效重排与生产级搜索模型经验:
- SPARSEUP:Linkup 首个开源贡献,一个不到 150M 参数的稀疏 embedding 模型,基于在现代骨干与数据上训练 SPLADE 类编码器的简单配方,效率-效果权衡更优。在相同骨干与数据的受控对比中接近稠密对照模型 DenseOn,但仍落后于 late-interaction 模型 LateOn。作者同时分享对稀疏检索的批判性观察:在标准 benchmark 上的表现与大规模生产环境中的局限。
- MICE(索邦大学 Victor Morand):一种从 cross-encoder 简化而来的架构,旨在保留其效果的同时缩小与 late-interaction 架构的效率差距,用于高效重排。
对做检索/RAG 的开发者是一份值得关注的开放研究与生产经验参考。
「研究」频道最新
- IFM 开源 RL360:8192 并发沙箱、130 万 rollouts 的 RL 基建 — rupspace · 2026-10-23
- 号称匹敌 GPT-6.1 的 DNA 模型遭实测打脸:10 例 8 例不如随机 — anshulkundaje · 2026-10-23
- AI 揭穿阴谋论研究风波落幕:Science 撤回关注声明,结论不变 — DG_Rand · 2026-10-23
- Embodied First Exam:一行代码在 44 台机器人上考你的 Agent — ManlingLi_ · 2026-10-23
- Anima Anandkumar 演讲:AI 气象模型胜超算,但不会取代科学家 — AnimaAnandkumar · 2026-10-23
- GLM-5.3-Flash 实现 1M token 上下文训练,较基线提升 64 倍 — AndrewLBeam · 2026-10-23