中国前沿模型集体转向线性注意力与开源

Elie Bakouch 观察指出，除 DeepSeek 外，中国几乎所有前沿模型（如 GLM、Qwen 等）都采用了线性注意力机制，且除 Kimi 外普遍结合稀疏注意力设计以最大化计算与内存效率，同时普遍使用 Muon 等技术。分析认为这一转向与中国厂商坚持开源策略相辅相成，开源路线正在见效，展现出中国 AI 生态在架构创新上的差异化路径。

2026-08-26 ~ 2026-08-27 · 2 条相关