清华联合发布大模型「记忆架构」前沿综述,提出三维分类框架

量子位 · wechat · 2026-08-05

清华大学唐杰教授团队联合新加坡国立大学及 Bosch AI 发布了一篇关于大语言模型(LLM)记忆架构的综述。文章指出,模型记忆正从计算的副产品(如 KV Cache)跃升为架构设计的第一性维度。

研究团队首次提出了三维架构级记忆分类学:

综述深度解析了 Attention、SSM、MoE 等不同记忆机制的设计哲学,指出混合架构(如 Kimi Linear、Qwen3-Next)正成为主流,并探讨了容量、精度与系统成本等未来挑战。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →