Adaptive Semantic Capacity Allocation for Parallel Generative Recommendation
Chenxi Li, Yuchen Lu, Xu Yang
cs.AI
2026-08-10
并行生成式推荐把语义 ID 的槽数和码本写死;InforID 按重建损失贪心分配容量预算,自动定有效 ID 长度和每槽码本大小,四数据集上 Recall@5 普遍提升。
自回归的语义 ID 推荐器被昂贵的 beam-search 解码卡住,导致物品标识符不能太长;并行生成(一次性预测所有语义 ID token)绕开了这个瓶颈,能支持更长的 ID。但现有的语义 ID 方法仍然依赖人工预先定义、同质的 ID 结构:槽的数量和每个槽的码本大小都是写死的超参。这忽略了不同语义子空间对表征容量的需求是不一样的,给那些信息量有限的槽也分配一样的容量,等于把预测能力浪费在没用的地方。作者证明确实如此:均匀地扩槽收益有限,说明同质语义 ID 里存在冗余容量。
InforID 是一个轻量的自适应语义目标构建框架,核心是把固定的容量预算在候选语义槽之间分配,从而同时决定有效 ID 长度和每个槽的码本大小。三步:
为什么这么设计:穷举搜索不现实,贪心是高效近似;重建损失便宜又能保住语义区分;0 比特删槽让 ID 长度自动由数据决定;并行预测保住了相对自回归方法的效率优势。
四个亚马逊评论基准(Sports、Beauty、Toys、CDs),指标 Recall/NDCG @5/10,基线含 SASRec、RecJPQ、VQ-Rec、TIGER、RPG。InforID 在所有数据集上把最强基线 RPG 再往前推一截:
| 数据集 | RPG R@5 | InforID R@5 |
| Sports | 0.0314 | 0.0329 (+4.8%) |
| Beauty | 0.0550 | 0.0562 |
| Toys | 0.0592 | 0.0613 |
| CDs | 0.0498 | 0.0521 |
容量分配对比(PQ 均匀、OPQ 优化但同质、InforID 自适应,同一比特预算):Sports 上 InforID 的 NDCG@10 达 0.0279,高于 OPQ 的 0.0255 和 PQ 的 0.0239,重建损失最低(0.583,OPQ 0.775,PQ 1.000),ID 碰撞率也更低。预算敏感性上,性能随总预算 B 上升而提升但逐渐饱和,说明语义容量存在边际递减。
对做生成式推荐的人,这篇给的是一个轻量、即插即用的改进:不改训练目标、不上新量化算法,只在目标构建阶段把「写死的同质 ID 结构」换成「按重建损失贪心分配的异质结构」,就能在同等容量预算下提升准确率,同时保留并行生成的一步预测效率。它也提供了一个可解释的副产品:每个槽分到多少比特,直接反映那个语义子空间有多重要。
作者自己界定:重建损失只是代理,不是最终评判标准,最终仍以下游检索表现为准;框架不提出新的嵌入压缩量化算法,只做目标空间的容量分配;所有 ID 构建离线完成。Sports 上 +4.8% 的绝对提升不大(R@5 从 0.0314 到 0.0329),增益在其他三个数据集更小,读者要自己掂量这是否值得工程接入。论文附了 GenAI 使用声明,工具只用于语法润色和图样式,不涉及科学结论。