微软 MAI 曝 3T 参数自研基座:原生免编码器 VLM 占训练混合 18%
burny_tech · x · 2026-10-19
Mustafa Suleyman 宣布 MAI 已完全自研出 3T 参数级别的 SOTA 预训练基座模型（MAI-Base 系列），后训练结果即将公布。
配图的技术博客细节显示，MAI-Base-2 采用原生免编码器 VLM 架构直接预训练视觉能力：
- VLM 语料含 4.5T 唯一 token，覆盖图表理解、视觉定位、空间推理、医疗、计算机使用、乐谱阅读等任务；含重复后 VLM 数据占 50T 总训练混合的 18%
- 对比 MAI-Base-1（30T），Base-2 扩到 50T：代码 +34%、Web +16%、PDF +104%、STEM +24%、Books +194%、Math +37%、Vision-only +22%（占比 14%）
转发方商汤（liuziwei7）借此表态也在推进同一范式，开源了 NEO 系列与 SenseNova-U 系列原生视觉语言模型（GitHub 已放论文、权重、训练与评测代码）。
所属事件:微软自研 3T 参数 MAI 基座模型曝光(2 条相关)→
「模型」频道最新
- 马斯克力推 Grok @Bot:像雇了个超强员工 — elonmusk · 2026-10-19
- 安全研究员吐槽前沿模型护栏碍事:事故调查中途被拒绝响应 — Bedrovelsen · 2026-10-19
- 网友实测 MiniMax H3：这次输出表现令人惊喜 — Cheap_Credit_3957 · 2026-10-19
- DeepSeek V4.1 变聪明了但爱弃稿，Opus 接手救援险些崩溃 — teortaxesTex · 2026-10-19
- 同任务建房间：DeepSeek 花 $0.21，Opus 5.5 花 $2.20 — teortaxesTex · 2026-10-19
- Gemini 4 Argon 实战亮点:助 Chrome 团队清理 600 万行 Chromium 代码 — ITower__Education · 2026-10-19