Gradium TTS 上架 Baseten：50ms 首音频延迟，一键部署语音 Agent
mattturck · x · 2026-10-14
- Gradium 的文本转语音模型进入 Baseten Model Library，已在 Baseten 上跑推理的团队可一键部署。
- 延迟极低：首音频延迟（TTFA）约 50ms，官方称低于 100ms，配合转写模型和 LLM 可在 Baseten 上跑完整语音 agent 管线。
- 部署走 dedicated deployment，沿用与托管 API 相同的 WebSocket 流式协议，只需换 URL 与认证头；需 Gradium SDK ≥0.6.1，仓库自带自托管示例客户端。区别：自托管版无自定义语音和发音词典。
所属事件:Gradium TTS 登陆 Baseten，首音频延迟低至 50ms(2 条相关)→
「Infra」频道最新
- 实测三款本地 LLM 应用的网络行为：对话不外传，但应用会联网 — TheOyinbooke · 2026-10-14
- 实拍 Google Ironwood TPU 机架亮相 Google Cloud 活动 — firstadopter · 2026-10-14
- 三星展出 HBM5 实物与 Custom HBM 方案，xPU 捆绑设计亮相 — firstadopter · 2026-10-14
- AWS Lambda 推出 Web Functions:单环境支持 128 并发请求的 HTTP 处理器 — tlakomy · 2026-10-14
- 液冷与 800VDC 时代:博世、Rittal 展出大型 manifolds 方案 — BenBajarin · 2026-10-14
- OCP 全球峰会赞助商墙曝光:英伟达、AMD、谷歌云等数百家齐聚 — firstadopter · 2026-10-14