把 GPU 编译进 Qwen 权重,QLink 用模型解码跑 CUDA

受 QwenGPU 启发,开发者用 Claude Opus 5.5 构建了 QLink:把一个小型 GPU「编译」进 Qwen3.5-2B 的权重,让模型通过解码执行 CUDA 内核。其核心洞察是「一个模型发出的 store 就是对任何其他模型都有效的内存写」。Claude 还为其写出微型 NCCL 实现 qccl,在 4 个「模型 GPU」上以 NCCL 风格的 ring channel 和 2 槽 FIFO 跑通了 Ring AllReduce。

2026-11-03 ~ 2026-11-03 · 3 条相关