Codex Voice 降低工具延迟:边流式传输边聚合上下文,委派前就绪

SIGKITTEN · x · 2026-11-05

OpenAI Codex 成员 daidaijiayu 分享了 Codex Voice 降低后端工具调用延迟的架构技巧:语音代理并非等到音频模型决定委派后才开启新回合,而是把音频流、文本流和委派通知全程流式送入 harness,持续聚合上下文。这样当音频模型决定委派时,上下文已经构建完毕,工具可以立即执行,省去了「委派后再建上下文」的等待。

配图对比了两种时序:传统方式是委派→构建上下文→执行工具;流式方式是在音频播放期间就同步构建上下文,委派到达时直接执行工具。

源码可参考 openai/codex 仓库中的 codex-rs/core/src/realtimeconversation.rs(约 2900 行的实时会话实现)。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →