Ousterhout：AI 集群对 TCP 的告别时刻到了
AI Engineer · youtube · 2026-09-17
斯坦福教授 John Ousterhout 在 AI Engineer 演讲中指出，AI 集群流量形态已悄然改变，TCP 正在成为瓶颈。
- 问题：GPU 间每轮计算后需交换元数据同步，交换期间所有 GPU 空转等待最慢者。过去计算阶段长达数秒、交换仅几毫秒无人在意；Agentic 推理把计算阶段压缩到毫秒级，同步开销已与计算本身相当。
- 结构性缺陷：拥塞控制一直由发送端负责，但队列实际堆积在接收端最后一跳，发送端只能靠约 1 bit 的二手信息、滞后数个往返才察觉，二十年来始终振荡。现场调查中，认为小消息延迟限制吞吐的人比预期多。
- Homa 方案：出自 Behnam Montazeri 的博士论文，把拥塞控制移到接收端——从首个包即知后续数据量，通过 grant 机制放行；以消息取代字节流，短消息可越过长消息排队，并利用交换机现有优先级队列，基准测试对比 TCP。
「Infra」频道最新
- OpenJev 开源:一张 RTX 3090 本地跑 Jev 式语义决策 — alexcovo_eth · 2026-09-17
- 双 7900XTX 跑 MiniMax H3 实测：5 秒视频最低 5 分半，求 N 卡对比 — HopefulConfidence0 · 2026-09-17
- Agent 容错设计:供应商 503 不该决定你是否重复调用工具 — Future_AGI · 2026-09-17
- HDD 一年涨价一倍:Seagate IronWolf Pro 从 550 美元飙至 1100 美元 — HankYeomans · 2026-09-17
- Polymarket：2026年前美国任何州叫停数据中心概率约31% — Polymarket · 2026-09-17
- 数据中心已占弗州Loudoun县地方税收约45% — Polymarket · 2026-09-17