ETH Hoefler SC26 三场报告:AI 超算的关键在网络而非 GPU
thoefler · x · 2026-11-17
ETH Zurich 与 Microsoft 的 Torsten Hoefler 预告其在 SC26 的三场活动(AI 超算面板、Beyond the GPU BoF、AI 超算网络供给论文),核心观点是网络比加速器更关键。配套幻灯片要点:
- CPU 未必输给 GPU:其与 Dongarra、Matsuoka 合著、被 CACM 录用的论文指出,矩阵引擎+HBM 让 CPU 具备接近 GPU 的数值能力,可减少数据搬运、统一 AI 与科学计算负载;前沿规模训练上 GPU 仍领先,但只是暂时的。
- SDLA 数据流抽象:Software-Defined Locally Accessed dataflow 主张「编程数据移动而非计算」——用控制程序预先构建任务与依赖,MOVE(DMA+本地内存)→COMPUTE(张量/向量引擎)→COMMUNICATE(网络引擎+远端内存)三段式流水,热数据留在本地、其余重叠执行。
- 论文引用 AMD A64FX 实测:在相同项目上以 1.3 倍能效和 2.2 倍性价比匹配 GPU 性能,但硬件利用率不足 10%。
「Infra」频道最新
- 微软 Outlook、机场、美国大银行接连宕机 — robleclerc · 2026-11-17
- Nvidia Ian Buck 回顾 CUDA 二十年:从 2006 年单一工具到全工作负载库 — firstadopter · 2026-11-17
- NVIDIA cuPotential 让分子动力学 FEP 提速 3 倍以上 — AllThingsApx · 2026-11-17
- Resend 延迟全线下降,p50/p90/p99 同步走低 — philnash · 2026-11-17
- 研究员断言电力是 AI 红鲱鱼:前沿算力效率年增 10 倍以上 — teortaxesTex · 2026-11-17
- RTX 4080+3080 双卡本地 LLM 实测:Qwen Flash-Next 单卡 prefill 反超双卡 — Icaruswept · 2026-11-17