自托管语音 Agent 扩容，最先卡住的往往不是算力
mahimairaja · reddit · 2026-07-22
自托管的 LiveKit 语音 agent 不是“一个系统一个上限”，而是由多层组成：媒体/SFU、worker 池、STT/LLM/TTS 推理、电话网关、应用侧调用等，每层都有独立并发天花板。
- 真正先卡住的，往往不是算力，而是最低那层容量：比如 STT/TTS 并发或 SIP 通道数。只加 worker，通话照样可能掉。
- 这篇总结了 LiveKit 压测里的 worker 规模估算、自动扩缩阈值的坑、500 并发通话容量表，以及粗略的单通话小时成本模型。
- 重点面向 self-hosted / Kubernetes 场景，适合做生产 voice agent 的团队参考。
「Infra」频道最新
- PyTorch 基金会发布六个托管项目季度更新 — PyTorch · 2026-07-22
- Puri.li 开放免费网页搜索 API，索引已达 1.85 亿页 — skillplayed · 2026-07-22
- 开源编码 Agent Octomind 推出云端机器和 21 模型接入 — donk8r · 2026-07-22
- Atome LM 在 18 项 MCU 任务上持平或胜出，体积小 5 到 70 倍 — themoroccanship · 2026-07-22
- 算力短缺或让亚马逊微软谷歌反而提价增厚利润 — RihardJarc · 2026-07-22
- 美国陆军用光多年 AI token 配额，暴露真实使用上限 — JackFisherBooks · 2026-07-22