IR 论文周报 Vol.173:谱压缩降 ColBERT 存储,Meta 用 MoE 扩展多模态嵌入

_reachsumit · x · 2026-09-13

Sumit 发布第 173 期「每周信息检索精选论文」，收录 10 篇来自 Microsoft、Meta、字节、阿里等机构的检索/推荐研究：

EigenLI（Microsoft）：利用文档 token 嵌入集中于低维子空间的观察，用二阶矩矩阵 top-k 特征向量表示文档，压缩 ColBERT 类 late-interaction 模型的存储与计算开销
检索反馈驱动的稠密检索就地嵌入修正（Amendola et al.）
Meta：用 Mixture-of-Experts 扩展多模态嵌入；以及工业级推荐系统上的长程实验 agent harness
字节跳动：低秩缓存实现推荐系统超长序列建模
阿里：离线 LLM 推理用于在线推荐
其余涵盖搜索 agent 端到端训练、RAG 大规模证据合成的自适应树扩展、视觉文档检索的生成式 late-interaction 嵌入、RAG 上下文压缩的蒸馏与探索

「研究」频道最新