RARS 训练目标让生成式检索理解层级相关性分配且推理零开销
_reachsumit · x · 2026-10-01
- arXiv 论文提出 RARS(Resolution-Aligned Relevance Supervision),针对基于语义 ID(SID)层级做逐步决策的生成式检索。
- 核心思想:将多分辨率相关性形式化为同一文档级相关性度量在 SID 层级上诱导的条件分布,用各层分布监督共享查询表示,让模型学习相关文档在粗粒度与细粒度分支上的分配方式。
- 训练时用一个前缀条件预测器在兄弟分支间分配相关性,权重按父节点相关性质量加权;推理时丢弃该预测器,不增加任何推理成本。
- 在三个多语言 ESCI 数据集上取得一致提升。
「研究」频道最新
- 十个月前还有人问 AI 能否先解出千禧年大奖难题 — haider1 · 2026-11-22
- Fable 5.2 直接改写权重,让只会右侧行驶的模型学会左行 — 4310sy · 2026-11-22
- IceCube 中微子众包挑战落幕,65 名志愿者助 AI 分类信号 — CatAstro_Piyush · 2026-11-22
- Michael Levin 曝光生物电初创 Morphoceuticals 进展 — drmichaellevin · 2026-11-22
- Reddit 长文:控制论视角下的「自然无外界」宣言 — Cyborgized · 2026-11-22
- 本地工具 Neshter:可视化注意力头贡献、对照随机头测量后剪枝 — Bayqus · 2026-11-22