谷歌发布 R4T:RL 训练扩散检索器,查询扇出延迟最高提速 20 倍
dejanseo · x · 2026-09-16
谷歌研究院论文提出 R4T,用强化学习训练扇出(fan-out)语言模型,以集合级质量(多样性与覆盖率)为奖励,再把学到的行为蒸馏为单次前向的快速扩散模型部署,论文称延迟最高提速 20 倍。
- 问题:朴素 LLM 扇出生成的查询高度同质(如 10 个'新手露营装备'变体),检索结果重复堆满同类商品。
- 做法:以集合级属性(整组查询的互补性)而非单条查询质量作为 RL 奖励,优化后查询各自覆盖不同品类,得到'互补集合'。
- 效果:部署时用扩散模型单次生成整套查询,兼顾多样性与速度。
作者 dejan(知名 SEO 技术博客)指出该方法对搜索与检索增强场景有直接启发意义。
所属事件:谷歌 Retrieve-for-Train：训练时思考，搜索亚秒响应(6 条相关)→
「研究」频道最新
- 小米 MiMo 提出 CodeSpecWeave:用相互依赖规格合成任务训练编程智能体 — XiaomiMiMo · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02
- arXiv 论文证明 SGD 最优步长调度:单调递减的线性衰减是唯一极小极大最优解 — konstmish · 2026-11-02
- Karpathy 的 nanochat:100 美元从零训练出类 ChatGPT,星标近 6 万 — karpathy · 2026-11-02
- 读完 46 份资料后写出 Agent Evals 指南：自评 95 分的评测为何不可信 — blaizedsouza · 2026-11-02
- Meta 与 MIT 论文:循环复用 Transformer 层可胜过加深参数 — rohanpaul_ai · 2026-11-02