生产级Agent痛点:17k token提示词致延迟与幻觉,如何瘦身?

okboomer1213 · reddit · 2026-08-01

一位开发者分享了其在住宅装修行业部署多周线AI Agent调度系统的经验。该系统需协调业主、分包商和项目经理,但每轮交互高达 17k tokens 的提示词带来了严重的延迟和幻觉风险(编造确认状态)。

作者详细拆解了提示词构成:工具描述(4.5k)、状态机指令(2.7k)、状态快照与历史消息等。他尝试过引入小模型做发送前审计,但误报率太高只能放弃。目前向社区求助:17k token对GPT-5是否致命?如何在不损失性能的情况下精简工具和状态层?以及渐进式工具发现和长周期状态管理有何最佳实践?

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →