ARI 检索器：0.4B 小模型借大模型持续 RL 追平甚至碾压 8B

lateinteraction · x · 2026-11-07

Diane 等（dbreunig 转述）提出 Amortized Reasoning Index（ARI）：一种能在搜索过程中更新自身权重的检索器，用推理模型在推理时产生的排序偏好梯度来训练一个小 cross-encoder。
动机：当前 agent 每轮会话都花大量推理判断哪些搜索结果重要，压缩上下文后这些判断全部丢弃。ARI 把这种判断「摊销」下来，让过去查询上的推理持续改进未来搜索，且无需相关性标注。
效果：一个 400M 的 cross-encoder 起点很弱，但随着处理真实生产查询，held-out 查询上的 Recall@100 持续上升——图中显示 0.4B 的 ARI（Ettin）在 Twitter-Conflict、Writing、BRIGHT AoPS 三组数据上追平或超过 Qwen3-8B，并逼近 Gemini Embedding 2。
dbreunig 认为这一模式非常适合 agent 记忆系统，可用于对抗「记忆腐化」和持续演化的个性化搜索。

「编程与Agent」频道最新