Learning Multiresolution Relevance for Hierarchical Generative Retrieval
Weihao Shen, Wei Chen, Fuwei Zhang, Guojun Liu, Qingsong Hua, Wei Lin, Fuzhen Zhuang
cs.IR
2026-09-30
RARS 把相关性投影成 SID 每层条件分布,用训练后即弃的预测器监督共享查询编码器;ESCI 三语言 NDCG@10 提升 0.54~1.28 个点,推理不变。
生成式检索(generative retrieval)不走「编码、打分、查索引」的路子,它让模型像写句子一样逐 token 生成文档的 SID(semantic identifier,一串离散码,前缀共享代表语义相近),再用 trie 约束的 beam search 得到候选。每生成一个 token 都是在 ID 树上选一个子分支,选错前缀,整棵子树直接出局。
训练在多正例查询上出了问题。一个查询往往对应一批相关文档,这些文档共享粗层前缀、到细层才分开。标准 full-SID 训练把每个(查询,文档)对当成独立的根到叶路径去最大化似然,于是同一个查询在同一个父节点下,一会儿被推向左子树,一会儿推向右子树。相关性在分支上怎么分配,训练里从来没被显式表达过。这个错配有个名字:supervision-resolution mismatch。论文统计了 ESCI 三个语言:约 70%80% 的查询在 SID 第一层就有相关性分叉,第二层约一半,第四层不到 20%。分叉集中在中粗层,是普遍情况,不是边角案例。
RARS(Resolution-Aligned Relevance Supervision)把这份分配显式写进训练目标。
两个设计有讲究。父节点质量加权让到达某层的相关性越多、该层损失的话语权越大,附录证明在全子节点归一化下这个加权恰好还原成整条路径分布的 KL(链式分解)。兄弟负例是给只有一个相关子节点的父节点准备的,只对相关子节点归一化时该节点梯度为零,负例提供了竞争对象。理论上也干净:按相关性采样 one-hot 目标与直接用分布监督,期望梯度相同,后者消掉了 Gini 不纯度刻画的采样方差。
核心对照固定骨干、数据、SID 与解码设置,报五种子均值:
| 设置(ESCI) | 指标 | 匹配基线 | RARS |
| US,标准自回归 | NDCG@10 | 11.12 | 12.36 |
| ES,标准自回归 | NDCG@10 | 12.43 | 13.65 |
| JP,标准自回归 | NDCG@10 | 11.77 | 12.34 |
| US,自回归+逐层兼容打分 | NDCG@10 | 12.00 | 13.00 |
| US,自回归+逐层兼容打分 | Recall@100 | 38.24 | 39.62 |
预测器推理时已删除,纯自回归下的提升全部来自训练目标。同表最强已发表方法 CaLIR 在 US 上 Recall@100 为 36.15、NDCG@10 为 10.75,RARS 到 39.62 与 13.00,其中一部分差距来自兼容打分本身(它把匹配基线也抬到 38.24)。目标消融做得干净:统一打分规则下,RARS 对 grouped soft-target、decoder soft-target、sampled tree 三种替代监督全面占优,US NDCG@10 是 13.00 对 12.28/12.46/12.55。换 SID 结构(hierarchical k-means、五层 RQ-VAE)、换正例定义(只用 Exact)增益都在,+0.49 到 +1.00 个 NDCG@10。案例里 JP 的保温杯查询,NDCG@100 从 38.88 升到 49.72:两个 Exact 型号共享前缀到最后一层才分开,RARS 把之前跌出 top-100 的那个捞了回来。
NQ320K 的结果要分开读:CaLIR 与 RARS 共享同一套训练参数,差异只来自检索打分规则。未见查询 Recall@10 从最强基线的 2.05% 提到 16.52%,这个约 8 倍的提升属于打分规则,与训练目标无关。
对在电商搜索、推荐里跑 SID 类生成式检索的工程师,这是纯训练期的改造:推理图不动、延迟不变,辅助损失即插即用,代码开源。它同时把「多正例该怎么监督层级解码」讲清楚了,按相关性加权整条路径(grouped soft-target)是答案的一部分,受控实验说明显式的逐层分配监督还能再多拿几个点。幅度要诚实:零点几个到一个点 NDCG@10,渐进但一致,五个种子的标准差在 0.1 个点量级,增益明显大于噪声。证据保真度的分析单独有价值:标注随机保留 25% 时,一半以上的多正例查询在第一层看起来已经确定,细层约 70% 的相关性质量失去支撑,对所有从稀疏标注构造训练目标的方法都是提醒。
作者自述,目标分布的保真度取决于标注覆盖,不完整标注会让粗层显得确定、细层失去支撑。实验面偏窄:训练目标的结论全部来自 ESCI 产品搜索,T5-base/mT5-base 规模,NQ320K 只覆盖打分规则。逐层兼容打分依赖人工构造的属性与词面特征(颜色、品牌、数字、IDF 词),换域要重做。参照系 CaLIR 与本文同团队,协议内对照可信,跨论文的数字比较要打折扣。另外消融显示温度、树损失权重的最优点在三个语言上并不一致,超参迁移到新语料时需要重调。