Meta 论文：软硬协同设计使 AMD MI350X 训练吞吐量提升至 1.5 倍
burny_tech · x · 2026-10-20
Meta 发布超大规模报告，首次将 AMD GPU 用于生产级 DLRM（深度学习推荐模型）训练，并用 MI350X 对标 NVIDIA B200。核心内容：
- 硬件-模型协同设计优于直接移植：不是把 NVIDIA 版模型直接搬到 AMD，而是重设模型结构与软件配方，利用 MI350X 相对 B200 的 1.6 倍 HBM 容量等特性扩大 batch、减少激活 checkpoint、重分片 embedding。
- 解析性能模型：跨多代硬件实现近零 warmup 的最优 kernel 选择，简化调优。
- agent 工作流：用 agentic 工作流改写 microarchitecture-aware kernel 与定制 shim，将成熟 CUDA 生态的移植门槛大幅降低，最终端到端训练吞吐较直接移植基线提升最高 1.5x，性能与 B200 相当。
贡献已上游合入 PyTorch、Triton 和 ROCm 生态系统，对需要多元算力供应、降低 GPU 锁定的团队是实用蓝图。
「Infra」频道最新
- SGLang Summit 赞助商一周从 11 家涨到 36 家,Lip-Bu Tan 等将出席 — satnam6502 · 2026-10-20
- fused DPO loss 并入 NVIDIA TileGym：峰值内存省 7.2 倍、快 1.27 倍 — blelbach · 2026-10-20
- GitHub 宕机时，GitHub 怎么把代码推给 GitHub 来恢复自己？ — VeryWellVersed · 2026-10-20
- Rust 重写 opencode 服务器:内存从 2.4GB 降至 100MB,搜索快 3 万倍 — microbass · 2026-10-20
- Muon 优化器改进：按需选多项式，可省约 0.5% LLM 训练算力 — burny_tech · 2026-10-20
- Tech Fund 测算年底 AI 年化收入将达 4140 亿美元 — FinanceYF5 · 2026-10-20