Delta-Mem 论文揭秘轻量级记忆机制

burny_tech · x · 2026-08-25

针对 LLM 长期记忆需求,Delta-Mem 论文提出了一种轻量级记忆机制。它通过侧边车快速权重记忆模块,利用 Delta 规则将过去信息压缩进固定大小的状态矩阵,并在生成时对骨干网络的注意力计算生成低秩修正。实验显示,仅需 8x8 的在线记忆状态,在 MemoryAgentBench 等基准上取得显著提升,且无需全量微调或显式扩展上下文。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →