MemT-1.0 号称把 RAG 级准确率装进参数记忆:128K 历史下推理提速 1.86 倍
Alternative-Pay-447 · reddit · 2026-10-25
Reddit 用户介绍 memt-1.0 架构,主张用门控 DeltaNet-2 与 mixture-of-storage(MoS)把智能体的程序性经验内化进模型状态,绕开「外部 RAG 慢且臃肿 vs 参数化微调丢失推理能力」的两难。
- 长上下文开销:在 128K 历史长度下端到端推理提速 1.86 倍,持久存储减少 66 倍,避免多轮对话中 KV cache 膨胀和第 50 轮的卡顿。
- 准确率:参数记忆档位下 MemBench 73.5、LocoMo 65.1,而旧参数化方案(doc-to-lora、MemoryLLM 等)通常只有 20–30%。
- 训练:两阶段流程共 34B token,宣称在吸收领域经验的同时不损伤基座模型的通用推理能力。
帖子以提问收尾:多轮 agent 场景你会继续用外部向量 RAG,还是转向架构级记忆内化?数据来自其公布的 benchmark,实际效果尚待第三方验证。
「编程与Agent」频道最新
- Cursor Ultra 每月 200 美元,Grok Bot 却一天耗尽一周用量额度 — alexcovo_eth · 2026-10-25
- Agent 指令文件等同可执行代码却跳过代码审查,开源工具 Cairnlock 求解 — augustkevinsanjaya · 2026-10-25
- Reddit 用户自建 Linear+Claude Code 无人值守工单转代码流水线 — Awkward_Rent4749 · 2026-10-25
- dotey:手机上用 Grokbot 跑 Agent 比 Claude Code/Codex 顺手 — dotey · 2026-10-25
- 10 个让 AI Agent 接入整个互联网的开源 GitHub 仓库清单 — victor_explore · 2026-10-25
- 单张 AMD MI325X 跑 DeepSeek 552B:四 agent 同时 100 tok/s — realmrfakename · 2026-10-25