开源 harness 可让 Agent 节省 2.7 倍 token,详解四大策略

Roger_M_Taylor · x · 2026-08-25

文章解释了 LLM agent 的 token 消耗为何差异巨大:同一模型同一任务,不同 harness 可导致近 3 倍 token 差距。多余消耗源于外层代码决定每次调用送入模型的上下文及调用次数。例如,工具返回 50k token 的 JSON 若留在上下文中,后续每一步都会重复读取;服务器暴露 50 个工具时,默认全部进入 prompt。优化 harness 可避免这些不必要的认知负担。文章还介绍了生产级 harness 除执行循环外应负责的部分,以及四种减少 token 的策略。相关开源项目 TrueForge 已发布,提供完整实现。

所属事件:开源 Harness 助力 Agent Token 消耗降低 2.7 倍(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →