Baseten 发布语音 Agent 全栈:亚秒级轮次延迟,每分钟音频约 $0.01

baseten · x · 2026-11-17

Baseten 推出 Voice Agent Stack 与参考实现 Baseten Realtime Voice(私测中),为生产级语音 Agent 提供端到端可定制的低延迟基础设施。整套栈跑在 Dedicated Inference 上,编排器与各模型通过集群内网络紧密互联以压低端到端延迟,各组件可独立扩缩,流水线中每个模型都可自选或后训练。

作者演示了一个组合 Qwen3-ASR(语音识别)+ Gemma 4 31B(推理)+ Qwen3-TTS(语音生成)的 Agent。参考实现 Realtime Voice 在高并发下实现亚秒级中位轮次延迟,成本约每分钟音频 $0.01,质量对标前沿闭源方案。

所属事件:Baseten 发布语音 Agent 基础设施栈,每分钟约 1 美分(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →