NVIDIA 庆祝 PyTorch 月下载破 5000 万次，发布 CUDA 优化十年时间线
NVIDIAAI · x · 2026-10-20
NVIDIA 在 PyTorch Conference 2026 前发文庆祝与 PyTorch 的长期合作：支持 CUDA 的 PyTorch 月下载量已超 5000 万次。配图时间线梳理了从 2016 年 PyTorch 内置 CUDA 后端，到 FairScale FSDP、FP8 混合精度训练、PyTorch 2.0 用 Triton 生成 GPU kernel，再到 Blackwell 上的 FlexAttention 与 FlashAttention-4 支持等里程碑；另附系列博客，包括 MXFP8 训练 MoE 较 BF16 提速 1.3 倍、TorchTitan 上 DeepSeek-V3 预训练提速最多 41% 等成果。
「Infra」频道最新
- idle GPU 别闲着：CoreWeave 方案让 agent 自动排队做研究 — _ScottCondron · 2026-10-20
- 曝华为 960DT 算力 2027 年大部分供给 DeepSeek 超级集群 — teortaxesTex · 2026-10-20
- €550 二手工作站装双 3060 跑 MoE,求社区排查配置坑 — ElekDn · 2026-10-20
- NVIDIA GTC Berlin 10 月 21 日开幕，黄仁勋主题演讲现场直播 — IanAndrewsDC · 2026-10-20
- 美国 DOE 押注自主实验室，电网互联成 AI 扩张瓶颈 — ingliguori · 2026-10-20
- FlashMap 流图推测解码：单次前向起草整块 token，Qwen3-8B 提速超 6 倍 — kalyan_kpl · 2026-10-20