自研 AutoResearch Agent 卡在局部最优?答案可能是让它「遗忘」

eshorten300 · x · 2026-11-03

伯克利博士生 Shangyin Tan 在 Weaviate 播客第 149 期中提出:长时运行的 AutoResearch Agent 会像数值优化一样陷入局部最优——尝试历史在上下文里越积越多,agent 锚定于此,每个新想法都只是已有方案的小修小补。

解法简单直接:扔掉历史。只保留最佳解,丢弃通往它的路径,让 agent 在不附加任何额外上下文的情况下重新探索。Scaling Discovery 的关键可能就是遗忘。

这背后的工具链始于 GEPA 及其继任者 optimizeanything,把这套思路从 prompt 优化扩展到代码、GPU kernel 和 agent harness。Shangyin 还指出了一个有趣的区分:prompt 和 harness 本质是泛化测试,而单个 kernel 是纯优化问题——这解释了优化算法如何从模型延伸到代码。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →