微软 Maia 200 论文发布：软件定义数据流实现高性能推理

thoefler · x · 2026-08-26

微软在 HotChips 26 展示了 Maia 200 加速器如何通过软件定义数据流为生产级 LLM 提供最高推理性能，并同步发布了详细论文。Maia 200 属于软件定义本地访问数据流架构(SDLA)，通过编程数据流引擎来编排高度专业的内存和数据移动引擎，将焦点从线程中心架构转移到数据移动中心架构。该芯片在 750W TDP 下提供 10,145 TFLOPS (FP4) 和 5,072 TFLOPS (FP8) 算力，拥有 7 TB/s HBM 带宽，旨在降低成本与能耗，支持大规模 AI 推理并行。