AWS 教程:Kokoro-82M 流式 TTS 让语音智能体首句即出声
AWS ML Blog · rss · 2026-10-23
AWS ML Blog 发布工程教程,解决语音智能体「等全文生成完才开始合成、用户干等 5 秒」的延迟问题:agent 每生成完一句就立即流式送入 SageMaker AI 上托管的 Kokoro-82M(82M 参数,单张中端 GPU 即可跑) 进行语音合成,首句音频可立刻回传播放。关键实现细节:
- 自定义容器暴露 POST /invocations 与双向流 WebSocket 两条路由,跑在 ml.g5.xlarge 上,通过 Docker label 声明双向流能力;AgentCore 运行时承载 Strands agent。
- 踩坑 1:SageMaker 双向流全以二进制帧到达,Starlette 的 receivetext() 会抛 KeyError('text') 且报错极难排查——需显式兼容 text/bytes 两种帧。
- 踩坑 2:不要每句合成就关会话,应保持单一持久连接、循环 receive(),仅在收到显式 close 时断开,否则重连开销吃掉延迟收益。
- 提供可直接复用的 IncrementalSentenceChunker 增量分句器:边流式收 token 边切出完整句子,flush() 兜底无结尾标点的最后一句。
「编程与Agent」频道最新
- Decisions API 正式 GA,agent 反馈循环全自动剪辑云视频 — dkundel · 2026-10-23
- 50+ 免费 AI Agent 学习资源合集:视频与仓库一站打包 — ifioknkem · 2026-10-23
- 自封「全网最佳」的免费 AI Agent 资源库引围观 — ifioknkem · 2026-10-23
- Vercel 推出免注册部署:拖拽文件到首页即得线上 URL — steren · 2026-10-23
- 5 个 Claude Code 会话经 MCP 互发邮件,组队攻破多品牌网络摄像头 — doodlestein · 2026-10-23
- Vercel 上线 vercel deploy --temporary,可临时部署后自动清理 — cramforce · 2026-10-23