ReuseGR 论文：7B 离线规划+0.5B 在线补全，解耦生成式检索降解码成本
_reachsumit · x · 2026-11-05
论文提出 ReuseGR，把生成式检索拆成两级：一个 7B 离线大模型为相同 query 规划可跨用户共享的 Semantic ID 前缀集合，一个 0.5B 在线小模型结合用户历史选择前缀并补全剩余 token，从而在保留个性化的同时复用大模型计算，解决大模型解码延迟难以在线服务的问题。
关键技术点：
- ReuseCut：按历史覆盖率自适应为每个 query 选择缓存深度，平衡计算复用与候选覆盖；
- Path KD：路径级知识蒸馏，把 7B 模型的后缀打分能力迁移到 0.5B 在线模型；
- BudgetCut：在固定分支预算下选择打分分支以提升 top-100 召回，策略用 on-policy 蒸馏初始化、GRPO 精调。
在约 200 万 query-item 记录、338 万商品目录的工业搜索广告数据集上验证有效。
「研究」频道最新
- iPhone 年年变强的直觉为何不适用于进化:没有可并行性 — louisvarge · 2026-11-05
- Weaviate 播客：智能体记忆过多会停滞，遗忘让优化器重启探索 — CShorten30 · 2026-11-05
- Epoch AI 改用贝叶斯模型重估 ECI：可算模型孰强概率 — scaling01 · 2026-11-05
- Zyphra 发布分层注意力 ZHA:10M token 提速 35 倍,剑指真亚二次方注意力 — teortaxesTex · 2026-11-05
- 博士生撰文剖析机器人预训练核心方法 LAM 的现实挑战 — EugeneVinitsky · 2026-11-05
- voxel-based sim2real 方法开发者坦言两大挑战：分辨率与数据 — chris_j_paxton · 2026-11-05