「上下文惯性」:Agent 认定错误假设后死磕不放的新失效模式
rseroter · x · 2026-10-17
dbreunig 提出了一种新的 agent 失效模式——Context Inertia(上下文惯性):模型在上下文中对某个假设、子任务或目标做出承诺后,即便证据已经表明该停止或改变方向,仍会继续死磕下去。
关键内容:
- 这是 context poisoning(错误进入上下文后被反复引用)和 context distraction(上下文过长导致过度聚焦)的混合体,而前沿模型被训练得极其「执着执行指令」,放大了这一问题。
- Anthropic 案例:其 Memento harness 就是为此设计——agent 固定工作 1.5 小时后写一份简短工作笔记,由全新 agent 接手代码库与环境,只继承笔记不继承历史上下文。典型翻车案例:一个 Qwen agent 调试包版本问题数小时,真正的 bug 其实是实现了一个与 grader API 不兼容的 endpoint。
- 同一周内两篇论文(Fork-and-Flush 等)指向同样的结论:「遗忘」是解药——定期清空上下文、以笔记交接,比让单个 agent 一路跑到底更可靠。
rseroter 补充:这正是为什么最好实时观察 agent 工作,以便及时介入纠正方向。
「编程与Agent」频道最新
- 程序员给 AI Agent 配闹钟工具,通宵跑任务能叫醒自己 — zack_overflow · 2026-10-17
- OpenAI 推出 Codex 硬件项目社区站,用 Codex 造出掌机游戏 — OpenAIDevs · 2026-10-17
- Claude 团队工程师：终端里并行跑 5 个 Claude，一年内成日常 — adonis_singh · 2026-10-17
- AI 审计 AI 成新生意，谁来审查审查者？ — CrashTestingAI · 2026-10-17
- Rob Leclerc:现有 AI 编码体验仍糟糕，「胶带」撑起的表象终将被超越 — robleclerc · 2026-10-17
- AI Agents 迎来「Kubernetes 时刻」：Agent 逻辑正下沉到平台层 — bibryam · 2026-10-17