KAIST 与 Meta 提出可编程检索框架 RPL,4B 模型胜过全部 8B 基线
CShorten30 · x · 2026-10-21
KAIST AI 与 Meta Superintelligence Labs 发布论文《Learning to Program Retrievals》,提出可编程检索学习框架 RPL(Retrieval Program Learning)。
- 核心思路:让策略模型把检索原语组合成带局部状态和控制流的程序,实现自适应检索——可宽检索、处理中间结果、选择性构建上下文,而不把检索广度绑死在上下文消耗上
- 训练难点:灵活的程序化检索带来探索难题,RL 反馈稀疏;作者提出 program mutation——语法约束且经执行验证的程序变异,把次优程序变体转成训练轨迹再蒸馏回策略
- 结果:开源域 QA 跨模型规模、跨基准稳定提升,多跳任务收益最大;4B 模型超过所有 8B 基线;语料级推理上取得最高 answer F1 与 document-coverage F1,同时显著降低上下文消耗与检索轮次
「研究」频道最新
- Sara Hooker PyTorchCon 演讲:单纯堆预训练规模已到极限 — PyTorch · 2026-10-21
- 设计抗蛇毒血清仅 64 小时,获批却要等 4-7 年 — DimitrisPapail · 2026-10-21
- ValsAI 发布 ClaimBench:1960 条财务声明实测 15 款决策模型 — denisyarats · 2026-10-21
- BrainLoRA 用单次因果前向预测脑活动,算力省 350 倍登顶 Algonauts — _akhaliq · 2026-10-21
- 立陶宛医学 AI 大会观察:本地模型成医疗研究刚需 — EmilPi · 2026-10-21
- 球面不动点推理器 SFPRM:让循环 Transformer 学会自己停 — GabGarrett · 2026-10-21