谷歌 5390 万参数扩散模型让查询扩展提速 12-20 倍
imjustnewatai · x · 2026-09-16
Google 团队(9 月 15 日文章)提出 retrieve-for-train 模式:用强化学习训练一个语言模型来生成训练样本,再教一个仅 5390 万参数的小型扩散模型并行产出多个检索扩展方向,将搜索查询扩展阶段提速 12-20 倍。
- 目标是得到更多样化的结果集:搜「露营」应同时返回帐篷、睡袋、炉子,而不是十顶同款帐篷。
- 在时尚和音乐检索任务上验证;提速仅针对查询扩展阶段(对比自回归基线),并非整个 Google 搜索。
- 底层论文最早于 3 月发布。
作者总结的可复用思路:把昂贵的推理放在训练期,部署一个小型专用模型来干重复性任务——这是用小模型换推理成本的有效模式。
所属事件:谷歌 Retrieve-for-Train:训练时思考,搜索亚秒响应(6 条相关)→
「研究」频道最新
- Adobe 与 UCLA 提出 Tev:用可验证进度奖励破解长程 Agent 训练难题 — jiqizhixin · 2026-11-02
- 老招新用:path tracing 加 portal 采样,64spp 噪点显著下降 — ssh4net · 2026-11-02
- Marcel Böhme 提出漏洞引导加固哲学:为何安全永远无法一劳永逸 — mboehme_ · 2026-11-02
- Perplexity 开源研究型基准 WANDR:500 任务、17 万条证据点 — thisguyknowsai · 2026-11-02
- AI 意识研究者:我们没有可靠方法判断 AI 是否有意识 — dioscuri · 2026-11-02
- 蚂蚁团队发布统一反伪造模型,AI视频鉴伪达96% — inclusionAI · 2026-11-02