Meta 论文用 LLM 语义编码器重启双塔检索
_reachsumit · x · 2026-07-29
Meta 重新审视了“用生成式模型做检索”这条路，转而把 LLM 当作语义编码器，回到经典但更高效的双塔检索架构。
- 论文提出一个 LLM-native 的双塔检索框架，目标是替代高成本的生成式推荐和 zero-shot 排序。
- 关键设计包括：共享的 LLM 编码器、EOS pooling、跨数据集迁移、来自 cross-encoder teacher 的蒸馏，以及 user tower 里的 latent reasoning。
- 作者称 cross-encoder 方案拿到当前 SOTA，而高效的双塔 student 在成本更低的情况下也能达到接近 SOTA 的检索效果。
- 论文还提到该方法已在内部大规模生产系统中验证可用。
「研究」频道最新
- 免细分位移表面几何查询新方法,焦散渲染方差降超10倍 — ssh4net · 2026-10-16
- Buehler 回顾：ChatGPT 发布前三周提出「AI 是科学新语言」 — ProfBuehlerMIT · 2026-10-16
- 研究发现:AI 建议一可用,人类「我不知道」率从 43% 骤降至 3% — ValerioCapraro · 2026-10-16
- POSTECH 论文:选择题评测偏差可拆解为翻转率与位置偏斜两因子 — Hyunjong Ok · 2026-10-16
- KV 缓存远程读取竟比重算还慢:GLM-5.3 生产系统案例复盘 — MultiverseComputingCAI · 2026-10-16
- Artificial Analysis 推出 Decision Index,评测决策模型新品类 — ArtificialAnlys · 2026-10-16