ReContext:无需训练的长上下文推理框架
dair_ai · x · 2026-07-07
新论文提出ReContext,一种无需训练的长上下文推理框架。它利用模型内部的相关性信号构建查询条件化的证据池,在最终生成前重放该池,同时保留完整原始上下文,无需训练、外部记忆或剪枝。作者将上下文比作记忆存储、问题比作检索线索、注意力比作线索-痕迹关联、重放比作痕迹再激活。
dair_ai · x · 2026-07-07
新论文提出ReContext,一种无需训练的长上下文推理框架。它利用模型内部的相关性信号构建查询条件化的证据池,在最终生成前重放该池,同时保留完整原始上下文,无需训练、外部记忆或剪枝。作者将上下文比作记忆存储、问题比作检索线索、注意力比作线索-痕迹关联、重放比作痕迹再激活。