研究揭示长上下文模型存在复制冗余缺陷

最新研究指出，当前强大的长上下文推理模型在处理信息时存在“重复复制”的缺陷。模型在思考时往往无法精准提取关键证据，而是将输入中的大段无关文本直接照搬进推理链中。这种行为不仅未能真正解决定位有效信息的问题，还导致 token 预算被白白消耗，浪费大量算力。针对此现象，研究人员提出了新的奖励机制，测试显示该机制最高可将模型表现提升 4.6 个百分点。

2026-07-23 ~ 2026-07-23 · 2 条相关