谷歌 Retrieve-for-Train：复杂 AI 搜索从 50 秒压到亚秒级
aigclink · x · 2026-09-16
谷歌研究院发布 Retrieve-for-Train 框架（ICML 2026 论文），把复杂 AI 搜索的"在线思考"前移为离线训练，将大规模查询响应从近 50 秒压缩到亚秒到秒级，比自回归方案快 12-20 倍。
核心思路
- 传统做法：让 LLM 在推理时做数据库感知的 query fan-out 分解，消耗大量 thinking budget，且 zero-shot LLM 并不擅长在特定语料的向量空间里导航
- 新做法：用离线强化学习一次性训练，把"搜索专家如何产出一组好结果"的行为编译进一个仅 53.9M 参数的扩散模型
推理机制
- 扩散模型在 embedding 空间单次并行生成整组"检索目标/方向"，再回到数据库取出真实结果
- 不再依赖生成大量文本 CoT，把在线"思考预算"基本移出链路
解决的两个问题
- 集合级质量：搜"露营装备"时给出帐篷+睡袋+炉子+头灯的互补组合，而非十个同质单品，优化多样性、覆盖度、互补性与连贯性
- 速度：把复杂搜索几十秒的推理延迟压到亚秒级，满足搜索框的实时性要求
所属事件:谷歌 Retrieve-for-Train：训练时思考，搜索亚秒响应(6 条相关)→
「Infra」频道最新
- Gary Marcus:多米诺骨牌开始倒下,算力将重演光纤过剩 — GaryMarcus · 2026-11-02
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- AWS 被曝算力订满至 2027，专家称「卖光」说法需看语境 — DavidLinthicum · 2026-11-02
- 富士康董事长刘扬伟：AI 不是泡沫，产品需求依然明确 — pstAsiatech · 2026-11-02
- 单卡 H200 跑 DeepSeek V4.1,时租仅 5.3 美元 — daluoseo · 2026-11-02
- 韩国芯片出口加速增长,年出口 1 万亿美元目标在望 — pstAsiatech · 2026-11-02