Google 指南：非阻塞工具让语音 agent 首字延迟从 14.4 秒降到 1.2 秒

rseroter · x · 2026-10-20

Google 开发者博客发布逐步指南，教开发者用开源 ADK 与 gemini-3.8-live 构建不冷场的语音 agent。核心问题是：文本聊天中 13 秒的查询只显示加载转圈，但语音通话里同样的阻塞会造成 13 秒死寂，用户会以为通话挂断而离开。解决方案是架构性的——让慢工具在后台运行、agent 保持对话：- 流式工具（streaming tools）：分批返回结果，边跑边说；- 非阻塞 FunctionTool 定义：先即时回应「正在查这些数字…」；- responsescheduling：控制后台结果何时、如何插话播报。在基准销售报表工作流中，把阻塞工具改为流式工具后，agent 首句话延迟从 14.4 秒降到 1.2 秒。文中含 ADK Live AI Concierge 演示视频。