Baseten 发布语音 Agent 全栈:亚秒级轮次延迟,每分钟音频约 $0.01
baseten · x · 2026-11-17
Baseten 推出 Voice Agent Stack 与参考实现 Baseten Realtime Voice(私测中),为生产级语音 Agent 提供端到端可定制的低延迟基础设施。整套栈跑在 Dedicated Inference 上,编排器与各模型通过集群内网络紧密互联以压低端到端延迟,各组件可独立扩缩,流水线中每个模型都可自选或后训练。
作者演示了一个组合 Qwen3-ASR(语音识别)+ Gemma 4 31B(推理)+ Qwen3-TTS(语音生成)的 Agent。参考实现 Realtime Voice 在高并发下实现亚秒级中位轮次延迟,成本约每分钟音频 $0.01,质量对标前沿闭源方案。
所属事件:Baseten 发布语音 Agent 基础设施栈,每分钟约 1 美分(2 条相关)→
「编程与Agent」频道最新
- Decision Models 更新图片决策 Playground,可查看概率与请求成本 — airesearch12 · 2026-11-17
- 微软手握全部代码仓库,Copilot 编码还是不行——为什么? — prasenx · 2026-11-17
- Baseten 用 Rust/CUDA 从零打造 DeepSeek 推理引擎,agent 优化出 10% 额外提速 — baseten · 2026-11-17
- shadcn 分享:让 agent 写代码前先问一句「你确定吗」 — shadcn · 2026-11-17
- 斯坦福 CS329A《自我改进 AI Agent》9 讲全套免费上线 YouTube — techNmak · 2026-11-17
- 单文件网页复刻「进度条卡在99%」,纯 JS 合成全部音效 — prasenx · 2026-11-17