Google 发布 Retrieve-for-Train：用轻量扩散模型替代重型自回归推理
gaganghotra_ · x · 2026-09-16
Google Research 发布 Retrieve-for-Train 框架（ICML 2026 论文），用一次强化学习训练出的轻量扩散模型，替代昂贵的自回归"思考预算"推理，即时生成专家级的 AI 搜索结果组合（slate）。
- 解决的问题：现代搜索/推荐需要返回一组连贯互补的结果（搜"露营装备"应得到帐篷+睡袋+炉子+头灯，而非十个相似帐篷）。这依赖 query fan-out——把宽泛查询拆成多个子查询，但让 LLM 做数据库感知的动态拆解会消耗大量推理算力。
- 方法：reward-to-data compilation 框架，用 RL 一次性训练扩散模型，绕过测试时的自回归计算，以极低成本即时产出满足集合级属性（多样性、覆盖度、互补性、连贯性）且锚定目标语料库的检索结果。
- 作者为 Pengcheng Jiang 与 Judith Yue Li。
「Infra」频道最新
- 小企业本地部署求模型推荐：ZGX Nano 跑 Qwen 后还想更准 — Maschinhunt · 2026-09-16
- NVIDIA 高管会议纪要:全球 AI 用户渗透率仅约 2% — BenBajarin · 2026-09-16
- 云厂商把闲置 GPU 风险转嫁给客户:按吞吐量预留下单遭吐槽 — AAAzzam · 2026-09-16
- M5 Ultra 首个跑分：多核 52516，比 M3 Ultra 快约 35% — jedisct1 · 2026-09-16
- 苹果高管做客播客：详解 2nm 芯片与 Neural Engine 翻倍 — BenBajarin · 2026-09-16
- Sentdex 晒奇葩理财法：买 8 张 RTX Pro 6000 转手 4 张白赚 4 张 — Sentdex · 2026-09-16