Claude 写出 qccl:在 4 个「模型 GPU」上跑通 Ring AllReduce
zeeshanp_ · x · 2026-11-03
作者展示 Claude 为 QwenGPU 写的 qccl——一个微型 NCCL 实现:每个 rank 有带 2 槽 FIFO 的 ring channel,采用 NCCL 的 Simple 协议,所有同步通过 QLink 上写的两个 flag 完成。视频演示了跨 4 个 QwenGPU 的 Ring AllReduce。
所属事件:把 GPU 编译进 Qwen 权重,QLink 用模型解码跑 CUDA(3 条相关)→
「Infra」频道最新
- 800V 直流供电被称数据中心「圣杯」,中国已有早期部署 — AviatorAshley · 2026-11-03
- 中国高阶智驾市场剧变:英伟达份额半年从 50% 缩至 28.5% — pstAsiatech · 2026-11-03
- CrowdGPT 仿 Folding@home 思路,想用分布式 GPU 挖开源模型训练 — Nota_ReAlperson · 2026-11-03
- 东京飞夏威夷航班星链 Wi-Fi 实测:看广告免费,1080P 无卡顿 — AlchainHust · 2026-11-03
- Google 用 AI agent 集群修复 TPU 编译器,已解决 142 个 bug — omarsar0 · 2026-11-03
- llama.cpp 新后端 Strata 实测:解码速度从 80 提到 150 tok/s — lblblllb · 2026-11-03