谷歌新架构 Proteus 解锁长上下文渐进式记忆

inductionheads · x · 2026-08-19

Google 发布名为 Proteus 的新神经记忆机制,旨在解决循环架构模型在长上下文中“前载”记忆的问题。不同于传统将信息压缩在初始 token 的做法,Proteus 随上下文增加逐步解锁更多记忆容量,从而更均匀地存储信息。该机制可应用于 SWLA、Comba、Titans 等 SOTA 模型以提升长文本处理能力。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →