4 个 QwenGPU 集合通信结果与真实 NCCL 逐位一致

zeeshanp_ · x · 2026-11-03

验证环节:在每台 GB200 上跑一个合并后的 Qwen3.5-2B 模型,用相同 int32 输入逐一对比各集合通信操作与真实 NCCL 的结果——AllReduce、ReduceScatter、AllGather、Broadcast、Reduce 和 SendRecv 全部完全一致。同一批内核也能通过 NVLink 在真实 GB200 上运行。

所属事件:QwenGPU:在大模型内部模拟 GPU 训练神经网络(4 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →