Meta 论文用 LLM 语义编码器重启双塔检索
_reachsumit · x · 2026-07-29
Meta 重新审视了“用生成式模型做检索”这条路，转而把 LLM 当作语义编码器，回到经典但更高效的双塔检索架构。
- 论文提出一个 LLM-native 的双塔检索框架，目标是替代高成本的生成式推荐和 zero-shot 排序。
- 关键设计包括：共享的 LLM 编码器、EOS pooling、跨数据集迁移、来自 cross-encoder teacher 的蒸馏，以及 user tower 里的 latent reasoning。
- 作者称 cross-encoder 方案拿到当前 SOTA，而高效的双塔 student 在成本更低的情况下也能达到接近 SOTA 的检索效果。
- 论文还提到该方法已在内部大规模生产系统中验证可用。
「研究」频道最新
- DexRobotics 开源 50 轮 SO101 机器人微调流程 — AdinaYakup · 2026-07-29
- SmartPhotoCrafter 先诊断照片问题，再自动完成修图 — 量子位 · 2026-07-29
- 一页幻灯片认为 Bayes 只是现代 AI 的众多视角之一 — davidmanheim · 2026-07-29
- 研究称脑启发式 AI 可用更少能耗完成规划与求解 — striketheviol · 2026-07-29
- 从 GPT-2 到 KimiK3：这篇文章说不只是尺度变大 — algo_diver · 2026-07-29
- 合成训练数据让 AI 识别杂乱数据集引用 — RexDouglass · 2026-07-29