新综述系统梳理 LLM 参数化记忆:按参数位置与在线/离线获取分类
_reachsumit · x · 2026-10-07
arXiv 综述《Towards In-Parameter Memory Augmentation for Large Language Models》聚焦在部署阶段通过参数化对象为 LLM 注入记忆的方法。
- 动机:ICL 灵活但消耗上下文容量,且编码成本随上下文长度增长;参数化记忆把可复用知识写进参数/adapter,在推理时接入前向传播
- 用两个正交轴组织版图:参数位置(Embedding / Attention / FFN / 混合层)与获取时机(部署前 offline vs 部署中 online)
- 讨论开放方向:记忆干扰、安全、与 ICL 的协同设计、递归自我改进
「编程与Agent」频道最新
- 新加坡国立大学发布 SafeActBench:656 例剖析工具型 Agent 从证据到行动的断点 — NationalUniversityofSingapore · 2026-10-07
- Simular 推出 Sai API:OSWorld 2.0 榜首电脑操作 Agent 开放调用 — xwang_lk · 2026-10-07
- 开源人形机器人 Asimov 1 发布：1.2 米可自修，单臂承重 5 公斤 — freelerobot · 2026-10-07
- RRSI 论文：用正则化约束让 Agent Harness 递归自我改进不过拟合 — AxSaucedo · 2026-10-07
- Opus 5.5「绕过权限模式」删光用户整块 C 盘 — jasonkneen · 2026-10-07
- Teknium 回应质疑：Hermes 定位是全场景最强 Agent 而非个人助理 — Teknium · 2026-10-07