Cartesia 用状态空间模型实现 90ms 级语音 AI,AWS 上可私有部署
AWS ML Blog · rss · 2026-11-04
AWS 博客介绍合作伙伴 Cartesia 如何用状态空间模型(SSM)在 AWS 上实现低于 100ms 的实时语音 AI。传统 Transformer TTS 需处理完整序列后才输出，延迟与质量难以兼得；SSM 逐步处理序列并携带固定大小内部状态，计算不随序列长度平方增长，内存恒定且原生支持流式，适合实时语音。
两款模型：
- Sonic(TTS):首字节延迟约 90ms,支持 44+ 语言、10 秒样本即可克隆声音，音频在文本输入完成前就开始生成。
- Ink(STT):原生轮次检测，用语义理解区分句中停顿与真正对话边界，免装独立 VAD;流式输出部分转写让下游 LLM 提前组织回复，支持多人重叠语音与噪声环境。
部署：Sonic 以 SageMaker AI 模型包形式经 AWS Marketplace 提供，可部署到自有 VPC 内的 SageMaker 端点(ml.g6e.xlarge、ml.g7e.2xlarge 及 ml.p5.48xlarge 等)，推理数据不出账户；Ink 目前经 Cartesia API(Marketplace 计费)提供。适用于客服中心、远程医疗、游戏 NPC、无障碍与外呼销售等场景。
「Infra」频道最新
- SurrealDB 4 发布：主打 Agent 记忆，推出 Cloudflare 无服务器版 Earth — ritakozlov · 2026-11-04
- PlanetScale 揭数据库隐形成本:云盘网络延迟常是性能劣化首因 — DanielLockyer · 2026-11-04
- Binance 披露超 60 亿美元史上最大盗窃案细节，警示 AI 加速社工攻击 — evilsocket · 2026-11-04
- 美国数据中心建设支出已达办公楼两倍，年化 965 亿美元 — ohlennart · 2026-11-04
- 黄仁勋与 DHH 同台 Fireworks Forge 大会,热议推理与开源权重模型 — gethackteam · 2026-11-04
- 用 Pydantic 开源沙箱 Monty，AIOps 平台 token 成本降超 30% — samuelcolvin · 2026-11-04