RARS 训练目标让生成式检索理解层级相关性分配且推理零开销
_reachsumit · x · 2026-10-01
- arXiv 论文提出 RARS（Resolution-Aligned Relevance Supervision），针对基于语义 ID（SID）层级做逐步决策的生成式检索。
- 核心思想：将多分辨率相关性形式化为同一文档级相关性度量在 SID 层级上诱导的条件分布，用各层分布监督共享查询表示，让模型学习相关文档在粗粒度与细粒度分支上的分配方式。
- 训练时用一个前缀条件预测器在兄弟分支间分配相关性，权重按父节点相关性质量加权；推理时丢弃该预测器，不增加任何推理成本。
- 在三个多语言 ESCI 数据集上取得一致提升。
「研究」频道最新
- PDB 数据已被榨干，蛋白结合折叠模型普遍面临数据饥荒 — anshulkundaje · 2026-10-01
- Stanford NLP 推出 UniEvo-VL：自蒸馏训练让多模态模型自我进化 — stanfordnlp · 2026-10-01
- NVIDIA Mid-Harness：执行前采样验证动作，TerminalBench Pass@1 升至 68% — nvidia · 2026-10-01
- Amazon SMART 自进化多智能体字幕翻译：15 个语向 MQM 全部最佳 — amazon · 2026-10-01
- Meta 首个 Loop MoE Scaling Law：稀疏省 3 倍、循环省 2 倍算力 — facebook · 2026-10-01
- AI 制药瓶颈何在？研究者详解结合剂预测与表位对接难题 — anshulkundaje · 2026-10-01