为什么实时语音 Agent 步长选 160ms?Smola 详解设计逻辑

smolix · x · 2026-11-07

Boson AI 的 Alex Smola 发长文解释 Higgs Realtime Duplex 为何把模型决策步长定为 160ms:

真正对齐的是决策速度:识别照片中动物约需 150ms,简单反应约 200ms。人类对话中话轮间隔平均约 200ms,但开口说一个词需约 600ms。Duplex 每个 160ms 步做一次决策(说话/沉默/附和/让步/打断),步内输出音帧与人脸特征不再重新决策。

不能再快的原因:每步都是一次前向传播,更小步长意味着更小 batch、更差的 GPU 利用率;更慢则话轮切换延迟明显。文章还引 Google 2009 年搜索实验:额外 100ms 延迟就损失 0.2% 搜索量,Core Web Vitals 以 200ms 为"良好"门槛。

所属事件:Higgs 实时语音模型为何选 160ms 决策步长(3 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →