Escaping the Euclidean Void: Manifold-Informed Flow Matching for Sequential Recommendation
Dengzhao Fang, Jingtong Gao, Yu Li, Xiangyu Zhao, Yi Chang
cs.IR, cs.AI
2026-07-27
流匹配推荐的直线生成路径穿过物品 embedding 空间的空洞区域时缺乏语义锚定,MIRAGE 用共现图的拓扑正则化在训练时修复路径几何,推断时完全无图,Beauty H@10 达 8.53,长尾物品 H@20 超最优基线 9%。
流匹配(flow matching)是序列推荐的新生成范式:训练一个 ODE 速度场,把高斯噪声沿直线路径传输到目标物品 embedding,推断时单步生成候选 embedding 再按余弦相似度检索全目录。
问题出在物品 embedding 空间本身是离散稀疏的——物品之间有大片「空洞区域」(void),没有真实物品分布。直线路径穿过空洞时,路径中间状态周围缺少语义锚点,速度场的预测器在这些区域等于在做无监督外推。论文把这个失效称为「欧几里得空洞」(Euclidean void)。长尾物品所在区域本就稀疏,受害最重。
这个问题不同于 ODE 离散化误差(增加推断步数能修复后者,但修复不了空洞问题)。
MIRAGE 的核心策略是:不改直线概率路径本身,改变路径周围的 embedding 几何结构,让中间状态能从邻近物品处获得语义支撑。
训练序列上构建物品共现图 G 作为语义流形的离散代理。对每个训练样本在时间步 t 处,从目标物品 i+ 的 K 近邻共现邻居 NK(i+) 中选出距离当前状态 xt 最近的锚点 jt。拓扑正则化损失 Ltopo = E[w(t) × ‖xt - e{jt}‖²] 把路径中间状态向有效物品聚类区域拉拢。
时间调制权重 w(t) = 4t(1-t) 是一条抛物线:t=0 和 t=1 处权重为零(保持高斯先验和目标 embedding 不受约束),中点(t=0.5)权重最大(等于 1)。正则化集中在路径内部,不干扰端点。
梯度反向传播时,Ltopo 同时更新目标 embedding(向锚点靠近)和锚点 embedding 本身(向路径靠近),形成动态聚类——语义相关物品逐渐向生成路径周围集中,形成「支撑走廊」。
推断阶段完全不用图:直接从 x0 做单步生成 xhat1 = ftheta(x0, ε, Su),按内积检索全目录。整体训练目标 = 目标恢复损失 + 目录排序损失 + 历史重建损失 + 拓扑正则化损失。
Amazon 四个数据集(Beauty、Sports、Toys、CDs),留一法,全目录评估:
| 数据集 | H@10 | H@20 | N@10 | N@20 |
| Beauty | 8.53 | 12.37 | 4.94 | 5.71 |
| Sports | 4.77 | 7.14 | 2.51 | 3.11 |
| Toys | 8.89 | 12.52 | 5.31 | 6.08 |
| CDs | 9.11 | 13.51 | 4.65 | 5.76 |
vs. 最优流匹配基线 FMRec:Beauty H@10 +4.02%、Sports H@10 +9.40%、Toys H@10 +6.98%、CDs H@10 +3.88%。
长尾物品提升尤为显著:Beauty 长尾 H@20 +9.0%,Toys 长尾 H@20 +9.9%。推断延迟在所有方法中最低,比迭代式 DiffuRec 快数个量级。
MIRAGE 澄清了一个混淆点:流匹配的失效不是 ODE 离散化误差,而是 embedding 几何结构问题,增加推断步数无法解决空洞问题。解法是训练时用图正则化重塑几何,推断时完全不用图,既有效又快速。长尾物品超过 9% 的提升对电商推荐有直接价值。
方法在平坦欧几里得空间运作,物品之间的层次结构(分类体系、父子关系)未被建模,作者在未来工作中提出探索双曲嵌入。共现图只是流形的离散代理,数据稀疏或交互噪声大的场景下锚点质量会下降。所有实验在 Amazon 评测数据集上进行,流式或会话式场景未被验证。