线性注意力洗白记:当年被叫 Linformer,如今叫 Qwen3.8

marktenenholtz · x · 2026-10-10

Mark Tenenholtz 调侃线性注意力的命运反转:早期用线性注意力的模型被起了个滑稽的名字 Linformer,如今这类架构直接成了 Qwen3.8 这样的主流模型本体。一句话点出线性注意力从研究玩具到生产级架构的行业变迁。

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →