Kimi k3 被赞有真实架构创新,加入 residual attention

OwariDa · x · 2026-07-26

转发内容称,Kimi k3 不只是做了蒸馏,还在架构上塞进了真正有意思的创新,比如 attention on layer residuals。作者的观点是:相比只做能力包装,能把真实架构改进做出来并公开出来,对整个行业更有价值。

所属事件:Kimi K3架构创新引热议,DRAM需求下降遭质疑(5 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →