阿里论文:生成式检索引入实时供给约束,候选过滤降 85%
_reachsumit · x · 2026-11-06
阿里团队发布 arXiv 论文《Generative Retrieval under Real-Time Supply Constraints in Local Commerce》,研究生成式检索在本地零售/外卖场景下的实时供给约束问题。
核心问题:生成式检索通过预测语义 ID 召回候选实体,但在本地商业中,候选还必须在用户请求时刻可服务——位置、天气、交通都会改变商家与商品供给,目录有效的 ID 在当前请求下可能不可行;事后过滤则浪费了 beam 容量与推理算力。
RTP-LLM 方案:
- 将合格残差量化 ID 编译为压缩稀疏行(CSR)前缀索引,CPU 编译与模型 prefill 重叠执行
- 上传索引跨 beam 共享,合法扩展保留原模型 log 概率,约束状态跟随所选 beam 父节点
- 形式化了「快照相对 ID 有效性」,与实体级合格性和新鲜度区分开
效果:在一个匹配 beam 的日线束案例中,需过滤的商家从 299 个候选中的 170 个降到 29 个。实现使用三 token 商家 ID。
「研究」频道最新
- ExPert 论文反向求解扰动因果:从细胞状态溯源疾病驱动因素 — anshulkundaje · 2026-11-06
- mlpowered 补充论证:残差态梯度回传使远期预测信息得以编码 — mlpowered · 2026-11-06
- 学者评 AI 审阅代码:像趣味实验,但误报多、易误导人 — thegautamkamath · 2026-11-06
- UCLA 发布 FlowPilot:人类偏好对齐使人行道机器人干预率降 40% — zhoubolei · 2026-11-06
- NeurIPS 2026 Spotlight:diffTLM 从声音重建人类声道形状 — sainingxie · 2026-11-06
- 普林斯顿研究发现「睡眠回放」让 AI 从儿童真实语料学会数千词 — jpillowtime · 2026-11-06