重排上下文比堆更多上下文更有效?一个待验证的 agent 假设
ClickOk5811 · reddit · 2026-10-22
楼主提出一个待打破的假设：一个代码修改 agent 在简单任务上遵守项目规范、在涉及多文件的任务上却忽略它们。常见直觉是加更多上下文（更多示例、更多规则、更长 system prompt），但作者怀疑信息其实已经在 prompt 里，问题在于组织方式——规范被埋在两个大文件堆之间、决策记录写成散文、没有任何标记区分约束性内容和背景资料。
作者对比两种干预：A）同样任务增加 20% 上下文；B）token 数不变但重新组织——约束与参考资料分离、规范紧贴任务、背景明确标注。预期 B 在多文件任务上胜出而 A 几乎无效。
目前唯一依据是 Liu et al. (2023) 的 lost-in-the-middle 结论（但那是检索而非指令遵循），作者也坦承无法排除 B 只是因为顺带缩短了 prompt、效果可能不跨模型、或只是小样本噪声，希望有做过受控实验的人分享结果。
「编程与Agent」频道最新
- 算盘打到家：用 Opus 写调度器让 homelab 跟着太阳能发电跑 — mertdumenci · 2026-10-22
- 如何设计 agent 代码审查工作流？开发者征集多轮审查实践 — lucasmeijer · 2026-10-22
- Langfuse 开放自定义决策模型,可接 SubQ Snap 跑评估器 — ryanallred · 2026-10-22
- Agent 的终点不是自主而是可问责：决策必须可检查可纠正 — tallmetommy · 2026-10-22
- Resend 发布 Inboxes 与 Forge：为 Agent 打造共享收件箱和自建 MTA — stuffyokodraws · 2026-10-22
- Factory 支持 Jira 任务委派，Droid 可自动执行子任务 — matanSF · 2026-10-22