线性注意力与状态空间模型殊途同归

trawasthi_ai · x · 2026-07-09

推文探讨了AI模型架构中线性注意力和状态空间模型（SSM）呈现出的趋同演化现象，并提及了Qwen 3.5可能采用Gated DeltaNet混合架构的相关讨论。