谷歌 5390 万参数扩散模型让查询扩展提速 12-20 倍
imjustnewatai · x · 2026-09-16
Google 团队(9 月 15 日文章)提出 retrieve-for-train 模式:用强化学习训练一个语言模型来生成训练样本,再教一个仅 5390 万参数的小型扩散模型并行产出多个检索扩展方向,将搜索查询扩展阶段提速 12-20 倍。
- 目标是得到更多样化的结果集:搜「露营」应同时返回帐篷、睡袋、炉子,而不是十顶同款帐篷。
- 在时尚和音乐检索任务上验证;提速仅针对查询扩展阶段(对比自回归基线),并非整个 Google 搜索。
- 底层论文最早于 3 月发布。
作者总结的可复用思路:把昂贵的推理放在训练期,部署一个小型专用模型来干重复性任务——这是用小模型换推理成本的有效模式。
「研究」频道最新
- ChatGPT 联合发明人 stealth 两年后发布新模型 Jev：宣称快 20-200 倍、便宜 40-400 倍 — sedielem · 2026-09-16
- Latent Spacecraft 项目：用乔伊斯小说解读大脑与 GAN 的潜在空间 — begusgasper · 2026-09-16
- 对照实验：六边形架构反拖慢 Agent，扁平代码 6 项任务中 4 项更快 — kristiyanstoyanovAI · 2026-09-16
- CMU/MIT/斯坦福团队整理 Awesome-Loop-Models，综述论文在路上 — jiank_uiuc · 2026-09-16
- ARCADIA 论文结合单细胞测序与空间蛋白质组学解析组织环境 — elhamazizi · 2026-09-16
- 14 天长任务对比:人类越做越强超线性扩展,Agent 陷入对数曲线 — AlexGDimakis · 2026-09-16