MemT-1.0：把记忆做成模型内生能力的新架构
pmttyji · reddit · 2026-10-21
MemTensor 团队发布记忆基础模型 MemT-1.0 及论文，主张「记忆原生进化」：让记忆成为基础模型的内在计算部分，而非外挂检索。
核心要点：
- 基于 Metis，采用 Gated DeltaNet-2，在每轮对话内做稳定的 token 级记忆更新
- 引入 Mixture-of-Storage 扩展原生记忆容量
- 两阶段训练管线（继续预训练 + 后训练），训练数据 34B tokens
- 发布 MemT-1.0-Nano 与 MemT-1.0-Flash 两个模型，记忆能力平均超越参数化记忆基线，与检索增强方法相当，且通用能力基本保留
- 在 128K 历史长度下，Nano 端到端推理提速约 1.86 倍，持久存储较全量 KV cache 降低 66 倍
- 将检索到的程序性经验内化后，可提升 agent 任务成功率
论文、代码与模型均已开源（arXiv / GitHub / HuggingFace）。
所属事件:记忆张量开源记忆原生模型 MemT-1.0(11 条相关)→
「研究」频道最新
- Reddit 概念帖：小模型配「知识地图」，用存储换参数 — FluidModeNetwork · 2026-10-21
- 两个 AI 评委给同一批模型打分差 28 分,LLM-as-judge 可靠性遭质疑 — TibboPlayz · 2026-10-21
- CellType 发布 CT-Translate:临床前数据预测免疫治疗患者应答 — david_van_dijk · 2026-10-21
- 中科院团队提出 Slot-JEPA:以对象槽结构改进潜空间世界模型 — China666 · 2026-10-21
- Adobe 联合 KAIST 发布 VideoMaMa++:扩散模型实现长视频时序一致抠像 — adobe · 2026-10-21
- 用 Rust 开发玩具 LLM：Candle 还是 Burn？作者纠结框架选型 — Enderlook · 2026-10-21