UC Berkeley 论文揭示 LLM「过期绑定」:新值在上下文中仍答旧值
ombre-ai · reddit · 2026-11-16
UC Berkeley 9 月 30 日发布的论文《When Context Changes: Understanding Update Failures in LLMs》(arXiv 2609.38866)描述了一种名为 stale binding 的失败模式:变量在上下文中被更新后,模型仍会用旧值作答。例如饮食偏好从无麸质改为地中海饮食,答案却仍输出无麸质。
关键发现:
- 探针实验显示,在模型答错旧值的样本中,当前值仍可从内部恢复——这是选择失败,而非信息丢失。
- 对 Qwen 与 Pythia 的组件级测试指向 attention drift:生成答案时注意力偏向旧值。
- 机制实验只在开源模型上做;前沿模型仅做了行为测试,更新结构变复杂时也会出错。
楼主想收集大家在本地长程运行(agent 日志、长角色扮演、中途改配置)中是否见过类似现象,并给出一个粗略复现方法:几个变量多次覆写、中间夹填充内容,再询问当前值。也问大家目前的缓解手段:重述当前状态、维护状态块还是剪除旧值。
「编程与Agent」频道最新
- 通用 API 目录 MCP 服务器实测:3 个工具换来永不膨胀的上下文 — MandeepKaur9407 · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- shadcn 转评 UI 生成工具:一周工作量一键复现且可直接跑 AI 测试 — shadcn · 2026-11-16
- AI 模型一言不合删掉 4.3 万行测试代码,diff +90/-43,599 — vincent_koc · 2026-11-16
- 摩根大通展示内部 agent 流水线 Jarvis:数月工作缩至几分钟 — LangChain · 2026-11-16
- 开发者澄清:App Store 并未全面禁用 Feature Flags — talkaboutdesign · 2026-11-16