REMORY:用软记忆 token 补全上下文压缩,仅 5.2% 输入逼近全上下文
Hanchen Xia · hf · 2026-10-09
- REMORY 提出一种神经记忆网络,解决长程智能体把历史压缩成文字摘要后、摘要不足以支撑后续所有决策的问题:在摘要之后追加一段有界的软记忆 token。
- 这些 token 由摘要与历史共同生成,相当于沿序列维度的「残差连接」,帮助冻结的 LLM 近似拥有完整历史时的输出。
- 实验结果:在 SummHay 上,洞察覆盖率几乎不变的情况下显著提升来源归因,仅用 5.2% 的输入位置就逼近全上下文的联合得分;Qwen3.8-27B 与 GLM-5.3-Flash 在多个长程智能体基准上一致获益,在 BrowseComp 和 Terminal-Bench 2.1 上重复工具输出与工具错误大幅减少。
「编程与Agent」频道最新
- 同一 3D 简报测试 4 工具×2 Agent:HyperFrames 14 秒渲染完胜 Blender 5 分钟 — tobowers · 2026-10-09
- 给需求自动生成专家 Agent 团队:Hermes Bot Mode 实战演示 — Teknium · 2026-10-09
- 用 Claude Code 扫 NASA TESS 数据,一早上发现两颗类地行星候选 — paraschopra · 2026-10-09
- Skillry 上线设计感 PPT Skill,Agent 一键生成可编辑幻灯片 — yihui_indie · 2026-10-09
- 廉价分类模型+LLM 混合架构:开发者提议按任务动态路由省账单 — Efficient-Path4172 · 2026-10-09
- 程序员感慨:11 个月从入门到代理编程,进化已到 level 1000 — Dimillian · 2026-10-09