免训练检索方法 IN-Retriever:用注意力信号导航多跳查询
_reachsumit · x · 2026-11-18
arXiv 论文(2611.18617,已被 EMNLP 2026 Findings 接收)提出 IN-Retriever,一种面向 RAG 多跳查询的免训练检索方法:
- 不生成中间推理文本,而是从 embedding 模型的内部注意力中提取「桥接线索」;
- 在迭代式线索提取与文档检索中,把已揭示的线索从查询向量中剥离,再对候选文档做针对性重排,引导检索找到隐藏的下一跳证据;
- 实验显示该方法能精确收集足够支撑多跳查询的文档,显著优于稀疏与稠密检索基线。
「研究」频道最新
- 加州 AI Amplitudes 学校与研讨会 2026 年 11 月办,聚焦 AI 用于散射振幅 — KyleCranmer · 2026-11-18
- UCLA 举办 AI Amplitudes 研讨班:用机器学习攻量子散射振幅 — KyleCranmer · 2026-11-18
- 循环层复用难救多模态嵌入,预训练加循环才涨 4.23 分 — _reachsumit · 2026-11-18
- 蚂蚁 Repo-Premium 基准:公平评测下 BM25 可追平稠密检索 — _reachsumit · 2026-11-18
- 快手提出 GBPO:诊断 GRPO 三大缺陷,生成式推荐训练更稳 — _reachsumit · 2026-11-18
- GainReason:按每句推理对目标预测的增益来奖励推理链 — _reachsumit · 2026-11-18