微软将揭秘 Maia 加速器：日服务数万亿 token 的软件定义数据流

微软工程师 Torsten Hoefler 发布论文《How to serve many trillions of tokens per day》，详解微软自研 AI 加速器 Maia 及其「软件定义数据流」系统设计，并预告将在超算大会 SC26 的微软展台发表演讲，分享 Maia 如何支撑每天数万亿 token 的大规模推理服务，揭示其面向大规模 AI 加速的架构思路。

2026-11-12 ~ 2026-11-12 · 2 条相关