给 agent 加解法缓存:省调用有效,但同义词反义场景会翻车

Positive-Glove4797 · reddit · 2026-10-10

作者发现编码 agent 重复解决同类问题时每次都付全价,于是实现了一套本地解法缓存:调用模型前先查已有解法库——已知答案 0 次调用,已知模式 1 次调用,全新任务全量运行且测试通过后才存档。第二个项目里命中缓存的任务 0 次调用、半秒完成。

但测试者一句 "counts only while running" / "counts only while paused" 就击穿缓存:措辞相同、行为相反,agent 直接复用了第一个定时器。作者的修复方式是维护反义词表(running/paused、on/off、min/max),请求与缓存块分处对立面时禁止复用——但作者承认这只是词表,不是理解。

作者向社区提问:如何判断缓存解法与新任务是同一任务?用 embedding、让模型判断(多花一次调用)还是拿旧测试跑新需求?

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →