QLink 核心洞察:一个模型的 store 就是对另一个模型的合法内存写

zeeshanp_ · x · 2026-11-03

这是 QLink 项目的原理解释帖:关键洞察是「一个模型发出的 store 已经是对任何其他模型都有效的内存写」。当内核向内存存储时,模型写出一个 3-token 记录;把这个记录喂给第二个模型,其 memory head 就会像 cudaMemcpy 一样把该字写入内存。

所属事件:把 GPU 编译进 Qwen 权重,QLink 用模型解码跑 CUDA(3 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →