告别外挂RAG?Metis模型将记忆内化进网络状态
rohanpaul_ai · x · 2026-08-10
传统大模型依赖外部检索系统(如 RAG)来获取历史上下文,而 Metis 提出了一种原生记忆基础模型架构。它通过独立的记忆注意力路径,将历史交互直接压缩并保存在模型内部的持久化状态中,且在更新记忆时保持模型权重冻结。
模型通过中期训练学会了记忆、更新、遗忘和反思等原生记忆程序。在无上下文(no-context)测试中,Metis-27B 在 LoCoMo 基准上得分 26.74,远超普通基座模型(0.07)和临时 LoRA 方案(4.24)。
不过,该方案目前仍不及拥有完整上下文的原始模型(65.03)。其主要缺陷在于:随着固定大小的状态压缩过多信息,性能会下降,且无关记忆会干扰正常推理任务。
「模型」频道最新
- Gemini 4 模型卡披露:模型可省去生物武器研究数月试错 — Puzzleheaded-King584 · 2026-10-16
- 问 AI 要答案永远是 7:Anthropic 工程师谈模型品味趋同陷阱 — rubenhassid · 2026-10-16
- 推ter脑筋急转弯:抠掉 Llama 3 全部权重矩阵还剩几个参数? — Sauers_ · 2026-10-16
- Lean v4.35.0 自带四个已验证内核,其中之一由 Claude 写成并自证一致 — geoffreyirving · 2026-10-16
- Claude 团队版一个席位被标记,全组织 5 个账号一并冻结 — RexDouglass · 2026-10-16
- Kimi K3 训后检查点表现出色,获赞预训练扎实 — SonglinYang4 · 2026-10-16