Agent 多步调用超时技巧:把剩余 deadline 预算传下去而非每步重置
arpit_bhayani · x · 2026-11-17
arpitbhayani 分享一条一手工程经验:对多步 agent,应把剩余的 deadline 预算传给每个下游调用,而不是给每一步全新的 timeout——这一个改动就让他某个系统明显变好。
- 核心认知:超时只是让调用方不再等待,并不会停掉底层工作。JavaScript 的 Promise.race() 不会终止输家;Go 的 context 是协作式的,忽略 ctx.Done() 的函数继续跑;Python 的 asyncio.tothread() 不会被强制停止;Rust 里工作一旦开始也无法中止,超时只作用于等待它的 handle
- 三个独立事件:deadline 到期、取消请求、工作真正停止,三者要分开处理
- 惯用手段一:幂等键绑定逻辑操作,服务端原子化强制,并绑定原始请求参数
- 容量算账:100 QPS、单任务 30 秒、调用方 1 秒超时——若工作随超时停止,约持有 100 个活跃操作;若继续运行,则约 3000 个
结论:取消不只是错误处理问题,更是资源消耗控制问题,值得审计一遍自己的系统。
「编程与Agent」频道最新
- 1700 万人口深圳被装进浏览器:Tiny Shenzhen 开源上线 — vincent_koc · 2026-11-17
- Cloudflare 开源无 Chromium 的 agent 浏览器引擎 Kitesurf — shoumikgoswami · 2026-11-17
- Gergely Orosz:Claude Code 半年击穿微软 VS Code 十年护城河 — rickasaurus · 2026-11-17
- 用 DeepSeek V4.1 Flash 搭几乎零成本的个人 Agent:每 5 分钟查邮件 — alexcovo_eth · 2026-11-17
- 神经科学家实测 AI 生成代码:能跑但充满「隐式契约」难维护 — RobbWiller · 2026-11-17
- Riley Brown:试遍各种工具后,Claude Code Projects 仍是当前最佳 — angrypenguinPNG · 2026-11-17