Gradium TTS 上架 Baseten：50ms 首包延迟的流式语音合成

baseten · x · 2026-10-14

Baseten 宣布 Gradium TTS 入驻其 Model Library，主打超低 50ms 首音频延迟（TTFA）与自然人声，可搭配任意转录模型与 LLM，在 Baseten 上跑通完整的语音 agent 管线。

技术细节：这是一个专有的流式 TTS 模型，不做固定上下文或输出时长限制，适合实时与长文本语音场景；输出允许商用（具体见服务条款）。模型通过 WebSocket 交互：客户端发送 JSON 配置（音色、输出格式）并流式发送文本，服务端返回采样率后持续回传原始音频块。文档给出了基于 GradiumClient 的 Python 示例代码，部署在 H100 上。