一次用户动作烧 4-5 次 LLM 调用,Reddit 求解多智能体限流难题

Hammad_developer · reddit · 2026-10-03

一位开发者在 Reddit 求助:他构建的零售自动化系统包含 1 个编排器加 4 个专业 agent(库存、财务、邮件营销、客服),跑在 Groq 免费额度的 gpt-oss-120b 上。用户一句话「卖了 10 条牛仔裤」就要消耗 4-5 次 LLM 调用:解析意图、库存扣减、生成发票、返回编排、格式化回复,连着几次就撞上免费层限流。

他提出的核心问题:第 2、3 步本质是确定性的数据库更新和发票模板,是否应该移出 agent 交给编排器以普通函数调用;是否有人把多个 agent 步骤合并进一次调用、会不会损伤可靠性;以及诚实答案是否就是「原型之后就得付费」。