微软工程师揭秘 Maia 加速器：如何每天服务数万亿 token
thoefler · x · 2026-11-12
微软工程师 thoefler 发布论文《How to serve many trillions of tokens per day》，详解微软 AI 加速器 Maia 及其「软件定义数据流」（Software-Defined Dataflow）的系统设计思路，披露支撑超大规模 AI 推理服务的关键架构。
作者还将在 SC26 超算大会微软展位做相关分享，这是了解微软自研芯片体系设计与大规模推理数据流的少有一手资料。
所属事件:微软将揭秘 Maia 加速器：日服务数万亿 token 的软件定义数据流(2 条相关)→
「Infra」频道最新
- 分析师推算：国产芯片放量后中国或按 1:2 配比逐步放开 H200 — teortaxesTex · 2026-11-12
- 数据中心的账：支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12
- 预算级独显服务器租赁指南:OVH、FiberState 及询价技巧 — realmrfakename · 2026-11-12
- AMD EPYC 评测配图神似 ViT 分割模型 logit 伪影，逗乐 AI 研究员 — giffmana · 2026-11-12
- llama-modchip：64GB 内存纯 CPU 跑 284B 模型，零 GPU — pmttyji · 2026-11-12
- Agent Substrate 计算器：预测不同负载下 agent 会话恢复速度 — pjausovec · 2026-11-12