Trainium3 实测：Qwen3-32B 达 30.47% MFU，编译 GPT-OSS 27 分钟才跑出第一步
demian_ai · x · 2026-11-03
转发的 SemiAnalysis 分析讨论 Amazon 自研 AI 芯片 Trainium 挑战 NVIDIA：难点不在芯片本身而在软件生态——几乎所有 AI 研究者用 PyTorch（生长于 NVIDIA GPU），新芯片必须把代码编译成自家硬件指令。
SemiAnalysis 用 AWS 新的 PyTorch 支持对 Trainium3 做了真实训练测试：
- Qwen3-32B 训练达到 30.47% MFU（约三分之一理论峰值在做有效计算），相当体面
- 换 GPT-OSS 后编译器跑了 27 分 17 秒才开始训练第一步
原因是历史包袱：Amazon 的编译器最初为推理构建，训练支持是后加的。Trainium 此前长于推理（Anthropic 已在 Trainium2/3 上跑生产推理与 RL rollout），SemiAnalysis 评价 AWS Neuron 团队转向一等公民的原生 PyTorch 训练体验（eager 模式 + torch.compile）方向正确，但成熟度仍远不及 CUDA。
「Infra」频道最新
- RTX 3090 Windows 解锁张量核心实测：BF16 提速 60%，视频生成快 20% — LavateLasManos666 · 2026-11-03
- Mistral ML4 开源:仅 10 兆瓦算力从头训练,自称网络防御与编码最强开放权重模型 — _AndrewZhao · 2026-11-03
- Databricks 用 Agent 跑研究,训练任务量一年增长 8 倍 — matei_zaharia · 2026-11-03
- 曝 RTX 5080 已停产，零售价逼近 2000 美元 — PAstynome · 2026-11-03
- 推理初创扎堆年入上亿美元?本质是无 GPU 转售算力,并非真生意 — abhiadesai · 2026-11-03
- Stripe Data Pipeline 支持实时同步 Lakebase Postgres，秒级更新 — matei_zaharia · 2026-11-03