Agent 慢别怪模型：追踪调用后发现时间都耗在编排上
aureliatech · reddit · 2026-11-10
一位构建企业级 AI agent 的工程师（AI 咨询公司 Aurelia Innovatives 创始人）在 Reddit 分享了对 agent 调用做延迟追踪的发现：agent 慢的时候，模型往往不是主要原因。
实际耗时大头通常在：
- 本可并行却串行执行的工具调用
- 对过多候选做重排（re-rank）的检索环节
- 用大模型做规划，而小模型其实就够
- 重试等待在设置得过松的超时上
最终答案生成在总等待中占的比重反而比想象中小。他的有效做法：对每一步做追踪、给每步设延迟预算、流式输出最终答案、把分类和路由任务挪到小模型上。他同时向社区提问：大家是按步骤设延迟预算还是只设端到端目标？追踪慢 agent 时最意外的是什么？
「编程与Agent」频道最新
- Ling-3.2-flash 支持按请求强制或禁用工具调用 — Prudent-Food-2971 · 2026-11-10
- 上线带用户级密钥的远程 MCP 服务器,开发者总结五条实战教训 — Salt_Bike898 · 2026-11-10
- 把声腔合成仓库交给 AI 智能体，它做出了分支声管建模的歌手合成 — TinfoilTricorn · 2026-11-10
- 时薪 0.63 美元的「AI 员工」:团队在 Slack 里@他就干活,2 分钟交付页面 — rubenhassid · 2026-11-10
- 审计发现 agent 榜单四类静默 bug:13 分差距实为平局 — akorecebov · 2026-11-10
- Grok Build v1.0.80 发布：终端提速修复卡顿 — XFreeze · 2026-11-10