GLInt:几何匹配难例检索,超越LateOn基线
beirmug · x · 2026-08-27
文章介绍了 GLInt(Geometry-Matched Hard Negatives),一种针对 Late-Interaction 检索模型(如 ColBERT)的新方法。核心发现是:使用多向量检索器挖掘的难例(Hard Negatives)能比密集检索器挖掘的难例产生更好的模型效果。
关键数据与结论:
- 性能表现:在 BEIR 15 个任务上达到 mean nDCG@10 = 57.43,超越了 LateOn 基线(57.22),成为参数量 300M 以下的最强检索器之一。
- 特定任务:在 Quora 和 HotPotQA 上取得了 7B 以下参数模型的最高分。
- 零样本评测:在某个评测集上 nDCG@10 达到 0.8815(acc@1=0.807)。
技术细节:
- 方法侧重于在 MaxSim 空间进行数据挖掘,利用几何匹配的难例提升 OOD(Out-of-Distribution)性能。
- 实践中使用了 PyLate 和 FastPLAID 工具。
- 训练数据(GLInt-data)和模型已开源。
「研究」频道最新
- V-Rubrics:基于细粒度标准的视觉忠实度强化学习 — liuziwei7 · 2026-08-27
- FlashKDA 参考实现默认下限已设为 -5 — YouJiacheng · 2026-08-27
- 可解释性研究暂缺数学级突破,百年来或难解心智之谜 — ericjmichaud_ · 2026-08-27
- 研究发现混合 SFT 在无 CoT 数据下优于 Next-Chunk RL — Yinhao Tang · 2026-08-27
- Real-TurnTurk:用于轮次预测的多模态土耳其语数据集 — Ahmet Tuğrul Bayrak · 2026-08-27
- 14.8k 星开源项目重构「Claude Mythos」架构 — tom_doerr · 2026-08-27