谷歌 Retrieve-for-Train：训练时思考，搜索亚秒响应

谷歌研究院发布 Retrieve-for-Train（R4T）框架，论文已被 ICML 2026 接收，文章日期为 9 月 15 日。其核心是把 AI 搜索中的「在线思考」前移到「离线训练」：不再依赖推理时昂贵的自回归思考预算，而是用强化学习训练一个扇出（fan-out）语言模型生成专家级的查询扩展组合（slate），奖励信号为集合级质量（多样性与覆盖率），再把学到的行为蒸馏为一个仅 5390 万参数的小型扩散模型，部署时单次前向即可并行产出多个检索扩展方向。

已确认

• 多位作者（@aigclink、@dejanseo、@imjustnewatai、@gaganghotra、@steveplunkett）转述的一致事实：复杂搜索响应从近 50 秒压缩到亚秒至秒级，比自回归方案快 12-20 倍，论文称延迟最高提速 20 倍。
• 论文由 Google 团队发布，文章日期为 9 月 15 日。
• @dejanseo 补充了动机：朴素 LLM 扇出生成的查询存在质量问题，R4T 用集合级奖励（多样性与覆盖率）加以约束。
• @imjustnewatai 确认扩散模型参数量为 5390 万，用于并行产出多个检索扩展方向，查询扩展阶段提速 12-20 倍。

为什么重要

• 该方法代表了「训练时思考、推理时即时」的范式：用一次性 RL 训练加蒸馏换取推理端数量级的延迟降低，对大规模在线搜索系统的成本与响应速度有直接意义。
• 轻量扩散模型替代重型自回归推理，也为其他需要多路生成/扩展的检索与 agent 场景提供了可迁移思路。

2026-09-16 ~ 2026-09-16 · 6 条相关

• 【源头】谷歌 5390 万参数扩散模型让查询扩展提速 12-20 倍 — imjustnewatai · 2026-09-16
• Google 发布 Retrieve-for-Train：用轻量扩散模型替代重型自回归推理 — gaganghotra_ · 2026-09-16
• 谷歌 Retrieve-for-Train：复杂 AI 搜索从 50 秒压到亚秒级 — aigclink · 2026-09-16
• 【源头】谷歌发布 R4T:RL 训练扩散检索器,查询扇出延迟最高提速 20 倍 — dejanseo · 2026-09-16
• 谷歌发布 Retrieve-for-Train:扩散模型让复杂 AI 搜索快 20 倍 — steveplunkett · 2026-09-16

另有 1 条近重复转述:aigclink