QueryFlow: Multi-Hop Graph Retrieval with Adaptive Query Evolution
Manzong Huang, Chenyang Bu, Yi He, Jiapu Wang, Xindong Wu
cs.IR, cs.AI
2026-11-03
QueryFlow 用图上攒到的上下文改写共享查询,再控制下一层实体传播。四套多跳问答里,Full Recall@10 宏平均比 GFM-RAG 高 8.40 个点,LLM-Acc 比 LinearRAG 高 8.0 个点。
多跳检索要在给定预算里找回整组支持文档。少一篇,后面的推理就断。单轮打分只看候选和原问题像不像。《The Hobbit》的作者出生在哪,第一跳锁定 J.R.R. Tolkien 之后,剩下的需求是出生地 Bloemfontein。查询若钉死在原句上,排序会继续偏向小说和文学页面。
迭代检索把已检段落或改写问句送进下一轮,跨文档的实体关系仍埋在文本历史里。图检索把关系和实体显式建出来,GFM-RAG 这类固定查询的做法只更新实体表示,查询条件不动。上下文堆在节点上,下一层传播仍按最初那个问题走。
语料收成实体图。节点是实体,边带关系类型,关联矩阵记录实体出现在哪些文档。冻结编码器取出问题和关系向量,线性层投到同一维度。与问题相连的实体用初始查询 q0 初始化,其余从零开始。图结构、文档关联和问题落点全程固定。
每一层里,查询状态管两处输入。边界反馈仍打在最初的问题落点上,注入的是更新后的查询,把剩余信息需求写回起点。关系反馈用查询生成门控,按维缩放关系的底嵌入,再过该层 MLP。门跨关系类型共享,每种关系保留自己的底向量。边上的消息按 DistMult 计算:邻居状态与关系特征逐元素相乘后求和,加上边界项,残差更新节点。
层与层之间再改查询。上一状态对全部实体做注意力,读出与图大小无关的定长摘要,送进 GRU,另一道门决定往候选状态挪多少。系数 α 默认取 1,位移全部写入。α 取 0 时查询锁在 q0。循环单元、转移门和关系门的参数跨层共享。
排序仍锚在原问题。传播结束后,MLP 用最终实体表示拼上 q0 打分,softplus 变成正权重,再乘文档频率的倒数,沿关联矩阵汇总到文档。高频实体被降权。训练只在实体层,损失是 0.3 的加权二元交叉熵加 0.7 的 listwise 交叉熵。文档聚合和排序留到推理,梯度同时更新图传播和循环控制器。
四个数据集是 2WikiMultiHopQA、HotpotQA、MuSiQue 和 ConcurrentQA。答案统一用 Qwen3.5-9B 生成。LLM-Acc 是评审模型接受的比例,Contain 是生成文本含规范化金标的比例。R@k 衡量支持文档的平均覆盖,FR@k 要求支持集全部进入前 k。宏平均对四个数据集等权。
QueryFlow 的宏平均 LLM-Acc 为 0.696,Contain 为 0.642。相对答题最强的 LinearRAG,两项高 8.0 和 6.9 个点;相对 GFM-RAG 高 11.6 和 5.6 个点。对 LinearRAG 的 LLM-Acc 涨幅,2WikiMultiHopQA 为 +15.0(0.679 到 0.829),HotpotQA 为 +3.4(0.752 到 0.786),MuSiQue 与 ConcurrentQA 各 +7.0(0.369 到 0.439,0.662 到 0.732)。
检索主对照是 GFM-RAG。
| 方法 | R@10 | FR@10 | R@30 | FR@30 |
| HippoRAG 2 | 74.29 | 51.38 | 80.95 | 61.59 |
| GFM-RAG | 76.95 | 61.98 | 81.41 | 68.15 |
| QueryFlow | 81.93 | 70.38 | 87.12 | 77.78 |
相对 GFM-RAG,R@10 与 FR@10 高 4.98 和 8.40 个点,R@30 与 FR@30 高 5.70 和 9.63 个点。分数据集的 FR@10 涨幅,2WikiMultiHopQA +12.60、HotpotQA +8.11、MuSiQue +5.99、ConcurrentQA +6.90。MuSiQue 上 HippoRAG 2 的 R@10 更高(64.42% 对 61.60%),FR@10 更低(31.11% 对 37.82%)。
α 从 0 调到 1,参数不动,宏平均 R@10 由 76.66% 到 81.93%(+5.27),FR@10 由 61.78% 到 70.38%(+8.59)。从 α=0.25 到 1,FR@10 由 65.60% 升到 70.38%,没有中途回落。四个数据集的 FR@10 都升,2WikiMultiHopQA 只 +2.50,ConcurrentQA 达 +15.51。去掉边界反馈,FR@10 与 FR@30 降 4.73 和 3.54 个点;去掉关系反馈,两项降 3.44 和 2.58 个点。改用终端查询 qL 读出,FR@10 低 1.82 个点。
与 GFM-RAG 在 4,596 道共有题上逐题比,QueryFlow 补上 434 道,反向丢失 86 道,净增 348 道。对方已找全的 2,891 道保住 97.0%,没找全的 1,705 道补上 25.5%。四篇文档的支持集(n=398)FR@10 从 32.16% 到 50.25%,升 18.09 个点;两篇和三篇的组分别升 6.38 和 9.62 个点。
预算上,QueryFlow 的 FR@5 为 62.63%,高于 GFM-RAG 的 FR@10(61.98%);其 FR@10 为 70.38%,高于对方的 FR@30(68.15%)。k 从 3 到 30,领先由 4.37 个点扩到 9.63。多返回一篇的边际,从 k=3 到 5 的约 5.32 个点降到 k=20 到 30 的 0.25。
效率只测了 2WikiMultiHopQA。在线检索加生成,QueryFlow 为 0.580 ks(千秒)、3.59M token,GFM-RAG 为 5.96 ks、5.44M token,时间少 90.3%,token 少 34.1%。两边索引都约 1.80 ks、11.2M token。FastToG 在线只要 0.00820 ks 和 1.25M token,同集 LLM-Acc 为 0.326,QueryFlow 为 0.829。
送进生成器的页数有限时,缺的那一篇比多召回几篇相关页更致命。完整召回的涨幅大于平均覆盖,而且同样的完整率出现得更早:5 篇对上基线的 10 篇,10 篇对上基线的 30 篇。生成侧可以少塞上下文。
索引开销与 GFM-RAG 同一量级。适应发生在图计算里,不必每跳调生成接口去改写查询。已经建好实体图、又在用固定查询做消息传递的系统,可以只加这层控制器。
这是渐进改进。HotpotQA 上 LLM-Acc 只多 3.4 个点,MuSiQue 仍停在 0.439。证据更全,9B 生成器也不一定答对。
论文没有单列局限。有几处没有被验证。
打分锚在 q0。演化后的查询只通过实体表示间接影响排序。Figure 1 里那句改写后的「Where was J.R.R. Tolkien born?」是在说明状态的含义,系统并不输出一句新的自然语言查询。
损失是实体级 listwise,FR@k 和文档排序都不在训练目标里。实体找得准与文档集找得全之间,还隔着关联矩阵和倒数文档频率。链接错误会把 FR 打掉多少,没有测量。
效率表只有一个数据集。注意力是全实体上的 softmax,图再大一个数量级时 0.580 ks 还成不成立,没有规模实验。α 是全局常数,不按题目难度开关。摘要把三项增益并称相对代表性基线:R@10 与 FR@10 的 4.98 和 8.40 对着 GFM-RAG,LLM-Acc 的 8.0 对着 LinearRAG,而文档召回表里没有 LinearRAG。生成器和评审都固定为 Qwen3.5-9B。MuSiQue 的平均覆盖也低于 HippoRAG 2。