研究揭示 Agent 上下文压缩会导致安全规则丢失

rohanpaul_ai · x · 2026-08-18

宾夕法尼亚大学新论文指出，AI Agent 在长对话中因上下文压缩会“遗忘”用户设定的规则，却记住任务本身。实验显示，当前的压缩技术平均只能保留 17% 的会话规则。这意味着 Agent 可能记得要管理收件箱，却忘记了发送前需获批准的约束。解决方案是将持久规则存储在独立寄存器中，而非依赖上下文摘要，该方案将规则保留率提升至 90% 以上。