专题 · FULL STORY
微软MAI-Base-2:从官宣到配置曝光
微软AI负责人Mustafa Suleyman于10月16日宣布内部完全自研的3T参数量级基座模型MAI-Base-2完成预训练,随后流传的配置表进一步披露该模型为2.8T总参数、80B激活的MoE架构,由1.6万块GB200训练38天而成。
2026-10-16 ~ 2026-10-16 · 2 集 · 7 条
第 1 集 · 微软官宣 MAI-Base-2:2.8T 参数 MoE 基座模型完成预训练(2026-10-16,5 条)
微软 AI 负责人 Mustafa Suleyman 于 10 月 16 日宣布,微软 MAI 团队完全在内部自研的 3 万亿(3T)参数量级预训练基座模型已完成训练并达到 SOTA 水平,后训练(post-training)结果即将发布,同时附上技术博客《Frontier Pre-training at Microsoft AI》。这是微软首次公开其前沿级自研基座模型的训练细节,被视为大模型训练方法论的重要参考材料。
已确认
- 模型名为 MAI-Base-2,采用 MoE 架构,总参数 2.8T、激活参数 80B,预训练已全部完成
- 训练数据规模为 50T token
- 官方博客披露了多项预训练细节,多位技术作者(如 Elie Bakouch、gordicaleksa)进行了解读
- Elie Bakouch 的解读指出,该模型比 Kimi K3 更稀疏(激活参数占比更低)
- gordicaleksa 转述的博客要点称,其 FLOPs 效率较 DeepSeek 高出 4-12 倍
- 配图显示模型在多项内部 held-out 评测上取得领先;有研究人员转发评价其为「it's a Good Model」,并解释后训练仍需时间
尚未确认
- 后训练版本的具体评测成绩与发布时间尚未公布
- 「预训练效率超 DeepSeek 数倍」为官方博客表述,尚待独立验证
为什么重要
- 这是微软 AI 首次公开其完全自研的前沿级基座模型,脱离对 OpenAI 等外部模型的依赖具有战略意义
- 披露的训练细节(稀疏度设计、token 规模、FLOPs 效率)为外界了解前沿大模型如何训练提供了少有的一手材料,多位转发者称其为「了解大模型如何训练」的参考
- 80B/2.8T 的稀疏比例设计显示 MoE 稀疏化仍是前沿模型的主流方向
- 微软 MAI 自研 3T 参数基座模型亮相,多项 held-out 评测领先 — soldni · 2026-10-16
- 微软发布 MAI-Base-2:2.8 万亿参数 MoE,预训练效率超 DeepSeek 数倍 — ChengleiSi · 2026-10-16
- 微软官宣 MAI 3T 参数自研基座模型:80B 激活、50T token 训练细节公开 — SinclairWang1 · 2026-10-16
- 微软 MAI 自研 3T 参数级预训练基座模型完成,后训练结果即将公布 — soumitrashukla9 · 2026-10-16
- 微软完成 MAI-Base-2 预训练:2.8T 总参数,FLOPs 效率超 DeepSeek 4-12 倍 — gordic_aleksa · 2026-10-16
第 2 集 · 曝微软 MAI-Base-2 为 2.8T MoE,1.6 万块 GB200 训练 38 天(2026-10-16,2 条)
流传的配置表与微软披露显示,新一代基座模型 MAI-Base-2 为 2.8T 总参数、80B 激活的 MoE 架构(每层均有 MoE,1 shared + 7/512 routed)。该模型于 2026 年 8-9 月在 1.6 万块 GB200 GPU 上训练 38 天,平均 MFU 仅 21%。
- 曝微软 MAI-Base-2 用 1.6 万张 GB200 训练 38 天,2.8T 参数 MoE — scaling01 · 2026-10-16
- 微软 MAI-Base-2 用 1.6 万块 GB200 训练 38 天,MFU 仅 21% — scaling01 · 2026-10-16