Claude 写出 qccl:在 4 个「模型 GPU」上跑通 Ring AllReduce

zeeshanp_ · x · 2026-11-03

作者展示 Claude 为 QwenGPU 写的 qccl——一个微型 NCCL 实现:每个 rank 有带 2 槽 FIFO 的 ring channel,采用 NCCL 的 Simple 协议,所有同步通过 QLink 上写的两个 flag 完成。视频演示了跨 4 个 QwenGPU 的 Ring AllReduce。

所属事件:把 GPU 编译进 Qwen 权重,QLink 用模型解码跑 CUDA(3 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →