Delta-Mem 论文揭秘轻量级记忆机制
burny_tech · x · 2026-08-25
针对 LLM 长期记忆需求，Delta-Mem 论文提出了一种轻量级记忆机制。它通过侧边车快速权重记忆模块，利用 Delta 规则将过去信息压缩进固定大小的状态矩阵，并在生成时对骨干网络的注意力计算生成低秩修正。实验显示，仅需 8x8 的在线记忆状态，在 MemoryAgentBench 等基准上取得显著提升，且无需全量微调或显式扩展上下文。
「研究」频道最新
- Cohere Labs 世界模型公开课第 4 期：一文理清 DreamerV1-V4 架构演进 — Cohere_Labs · 2026-10-16
- GPT-6.1 审查 arXiv：6% 论文主定理有错，近两月降至 1.5% — nitarshan · 2026-10-16
- 研究：一个 just 之差就能改变 LLM 对话的走向 — StellaLisy · 2026-10-16
- SEAR 首次大规模对照研究：7 个前沿 LLM、330 项任务检验自进化机器人 — xiye_nlp · 2026-10-16
- Claude 助力连破椭圆曲线纪录后，EC Rank 挑战赛开放 156 个纪录位 — Jsevillamol · 2026-10-16
- 用超声替代胎儿 MRI，牛津团队做产前大脑 AI 建模 — AnnaCiaunica · 2026-10-16