NCCL 2.31.2 发布：GPU 驱动 CFT 与 0-SM 集合通信,瞄准 Blackwell 级训练

SkyLi0n · x · 2026-09-23

NVIDIA 发布 NCCL 2.31.2,带来多项通信层升级:新增 GPU 驱动的 Compute Fabric Transport(CFT)host/device API,支持注册 window 内存并通过 CUDA 逻辑端点发起设备侧 Put/Get/Red/NVLS 操作(需 Blackwell GPU + CUDA 13.3+)。其他亮点:全部集合通信支持逐 collective 的配置与调优(ncclCollConfigt,可选算法、CTA/CGA 大小)、NVLS+PAT 改进、0-SM collectives、更强的多网卡/GIN 支持(AWS EFA 团队贡献 GDA 后端)、PACE fusion 等。作者认为对 MoE、FSDP、TP/EP 训练及 Blackwell 规模训练很有用。