论文提出「harness 层遗忘」:agent 改提示词可能破坏既有能力

omarsar0 · x · 2026-08-21

这篇论文研究 agent 的 harness(提示词、记忆、工具、技能、路由规则)持续学习问题:现代 agent 的经验积累在 harness 而非模型权重中,更新任一 harness 组件都可能在模型完全不动的情况下破坏此前的可靠行为。论文将其命名为 harness-level forgetting 并给出量化方法。提出的 Guarded Harness Evolution 把「提出更新」与「提交更新」分离:Continual Optimizer 根据执行后反馈起草候选 harness,Continual Evaluator 在校验当前改进、历史能力保留与有效性后才提交。相对收益超过 10%(原帖截断)。适合已在让 agent 自改 prompt/技能/记忆文件的读者。