微软自研基座模型 MAI-Base-2 亮相,2.8T 参数预训练效率超 DeepSeek

微软 CEO Mustafa Suleyman 官宣 MAI 团队完全自研的权重级预训练基座模型 MAI-Base-2,总参数量约 2.8T3T,采用 MoE 架构,激活参数 80B,基于 50T token 训练。官方博客披露其预训练效率较 DeepSeek 高出数倍,多项 held-out 评测达到 SOTA 并处于领先,后训练结果即将公布。

2026-10-16 ~ 2026-10-16 · 3 条相关