Meta 发布 MTIA 300:内置网卡芯片组的首款训练专用加速器
Meta_Engineers · x · 2026-08-31
Meta 官方工程博客详细介绍了 MTIA 300——其自研 MTIA 加速器家族中首款针对排序与推荐模型训练优化的芯片。
- 与需要巨大浮点吞吐的 LLM 不同,推荐模型的瓶颈在于加速器间通信:嵌入表可占模型参数的 99% 以上,混合并行会在数百个加速器间产生频繁的 AllReduce、AllToAll、AllGather 集合通信。
- 在 GPU 上,这些通信操作与训练计算争抢同一资源,常导致昂贵硬件利用率低下。
- MTIA 300 通过内置 NIC 芯片组和通信卸载引擎,将通信变成芯片设计的一等公民,在推荐模型训练的通信需求上性能优于通用 GPU。
- Meta 还与芯片协同设计了通信库 HCCL,从根本上改变芯片设计方式。
详细内容来自 @Scale: Networking Conference 的技术分享。
所属事件:Meta 发布 MTIA 300:首款训练专用自研加速器(2 条相关)→
「Infra」频道最新
- Google 将 2026 年资本开支上调至最高 2050 亿美元 — emmanuelvivier · 2026-10-16
- Google 开源 AX:像 Kubernetes 一样编排数十亿 Agent 任务 — thisdudelikesAI · 2026-10-16
- Valtz 新版支持 FLUX.3,Mac 本地生图最高 4K 分辨率 — TgoAI · 2026-10-16
- 百度开源 FlashMask:长上下文训练最高比 FlashAttention-4 快 1.55 倍 — BaiduResearch · 2026-10-16
- 独立开发者 GYRO 量化实测:体积更小却达 ISTA Q3 水平 — PlasticRevenue4601 · 2026-10-16
- RL 训练系统已成前沿建模最复杂的基建难题,_best_方案是商业机密 — brianryhuang · 2026-10-16