微软发布 MAI-Base-2:2.8 万亿参数 MoE,预训练效率超 DeepSeek 数倍
ChengleiSi · x · 2026-10-16
微软 AI 官方博客《Frontier Pre-training at Microsoft AI》披露了其最新基础模型 MAI-Base-2:一个 80B 激活 / 2.8T 总参数的 MoE 基座模型,预训练已全部完成。
关键信息:
- MAI-Base-2 在微软的 held-out 评测集上超过了所有测试过的开放权重模型
- 预训练 FLOPs 效率比最强的开放基座模型 DeepSeek-V4-Pro-Base 高 4-12 倍,省下的算力被用于训练更大的模型
- 早在 6 月,微软已发布 MAI-Thinking-1(基于 MAI-Base-1 后训练的通用推理模型)
文中还给出了 MAI-Base-2 与其他万亿级参数模型在多组预训练评测上的对比图表。
所属事件:微软自研基座模型 MAI-Base-2 亮相,2.8T 参数预训练效率超 DeepSeek(3 条相关)→
「Infra」频道最新
- Meta 开源 816B 参数 Muse Spark Open,Groq 预览跑出 350+ tokens/秒 — GroqLLC · 2026-10-16
- Meta 开源 816B 参数 Muse Spark Open,两台 Mac Studio 即可本地运行 — mervenoyann · 2026-10-16
- Together AI 上线 Muse Spark Open 推理:面向 agentic 编码与多模态负载 — togethercompute · 2026-10-16
- 马斯克官宣:SpaceX 与 Nvidia 共研太空数据中心,明年量产 — elonmusk · 2026-10-16
- 发布仅 30 分钟,Muse Spark Open 已可在 MLX 上本地运行 — pcuenq · 2026-10-16
- 分析师将台积电财报与 WFE、功耗预测交叉建模 — BenBajarin · 2026-10-16