微软 Maia 200 论文发布:软件定义数据流实现高性能推理
thoefler · x · 2026-08-26
微软在 HotChips 26 展示了 Maia 200 加速器如何通过软件定义数据流为生产级 LLM 提供最高推理性能,并同步发布了详细论文。Maia 200 属于软件定义本地访问数据流架构(SDLA),通过编程数据流引擎来编排高度专业的内存和数据移动引擎,将焦点从线程中心架构转移到数据移动中心架构。该芯片在 750W TDP 下提供 10,145 TFLOPS (FP4) 和 5,072 TFLOPS (FP8) 算力,拥有 7 TB/s HBM 带宽,旨在降低成本与能耗,支持大规模 AI 推理并行。
所属事件:微软公开Maia 200推理加速器架构:取消缓存层级(2 条相关)→
「Infra」频道最新
- Bloomberg 算账:得州 AI 数据中心 1GW 场地建设成本失控 — rohanpaul_ai · 2026-10-15
- 系统设计面试必懂的 7 个分布式算法 — goyalshaliniuk · 2026-10-15
- 面壁 MiniCPM-V 4.7 端侧跑 35B 多模态,仅 3GB 内存、每 token 激活 3B — nevrekaraishwa2 · 2026-10-15
- Sipeed MaixStation 产品页上线,端侧 AI 开发套件来了 — xlltt · 2026-10-15
- 英伟达市值已超过印度整个股市 — theteknosaur · 2026-10-15
- 实测 Apple Silicon GEMM 性能:M6 矩阵单元 fp8 达 fp16 两倍,M5 不支持 — Brilliant-Hall1387 · 2026-10-15