复旦 Remory 论文:软记忆 token 压缩上下文,仅用 5.2% 输入逼近全上下文效果
pmttyji · reddit · 2026-10-20
复旦团队发布 Remory 论文,针对长程 agent 历史压缩后信息丢失的问题,提出在文本摘要之外附加一段有界的软记忆 token。
- 神经记忆网络根据摘要生成辅助 token,追加在摘要后,相当于沿序列维度的残差连接,帮助冻结的 LLM 逼近有完整历史时的输出。
- 在 SummHay 基准上,几乎不损失洞察覆盖率的前提下显著提升来源归因,仅用 5.2% 的输入位置即接近全上下文联合分数。
- Qwen3.8-27B 与 GLM-5.3-Flash 在长程 agent 基准上均有一致增益,BrowseComp 与 Terminal-Bench 2.1 上重复工具输出和工具错误明显减少。
- 论文、代码与模型已在 arXiv、GitHub、HuggingFace 开源。
「编程与Agent」频道最新
- LLM 代码审查拖慢节奏,PostgreSQL 19 延期至 11 月并回退多项功能 — sanjaykalra · 2026-10-21
- 开源像素画法线贴图生成器上线:Rust 实现,CLI 与 WebAssembly 双形态 — HugoDuprez · 2026-10-20
- 评估工程研究者预告主观任务 eval 指南,附全套参考资源清单 — cwolferesearch · 2026-10-20
- Eon 用 AgentCore Gateway 统一多云调查工具,新人接入从 2 天缩到 2 分钟 — AWS ML Blog · 2026-10-20
- 构建持久化 Agent:为什么记忆是你该自己掌握的智能栈 — omarsar0 · 2026-10-20
- Mintlify 推出 Autopilot Beta:常驻文档 agent 随代码提交自动更新文档 — ycombinator · 2026-10-20