长会话突然变笨?不是模型变差,是上下文里堆满了"垃圾"

ClickOk5811 · reddit · 2026-09-23

Reddit 长帖分析 AI 长会话质量突然下降的机制:大上下文窗口并不减少无效信息的积累,只是推迟了问题显现的阈值。会话中留存着所有被推翻的旧决策、尝试后放弃的方案、重复澄清的内容,这些都默认留在上下文里。因此体验上"先正常很久然后断崖式下降",实际是渐进退化被大窗口掩盖。作者主张把修复重新定义为"垃圾回收"问题:定期检查当前上下文里哪些内容在重新开始任务时仍会保留,把差距视为拖慢模型的真正因素。作者询问是否有正式研究把"上下文留存/相关性"当作与窗口大小独立的变量。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →