MemTensor 发布 MemT-1.0:128K 历史存储比全量 KV 缓存省 66 倍
jiqizhixin · x · 2026-10-29
MemTensor 团队发布 MemT-1.0 技术报告,把记忆变成基础模型计算的一部分,Nano 与 Flash 两个变体在普通注意力之外增加并行记忆通路。技术要点:
- 机制:不再反复把全部对话喂回模型,而是由学习到的门控把信息写入持久矩阵状态、按需读出;Gated DeltaNet-2 稳定状态更新,Mixture-of-Storage 扩展记忆容量;提交新交互即可更新状态,无需微调骨干
- 实测数据:128K token 历史下,Nano 版持久存储比全上下文 KV 缓存少约 66 倍;双 GPU 单请求生成 128 token 的设置下,端到端推理快约 1.86 倍
- 评测:在 11 个记忆基准上,Flash 与 Nano 在参评的参数化记忆方法中分列第一、第二
「Infra」频道最新
- 分析师建议企业暂避高通 Dragonwing:更像品牌营销而非平台 — DavidLinthicum · 2026-10-29
- 欧洲数据中心爆发式扩张,谁有权优先接入电网成争夺焦点 — kindermaxi123 · 2026-10-29
- Reddit 网友分享用本地 LLM 做过的项目，大小脑洞齐飞 — Loose_Doubt367 · 2026-10-29
- Minigraf:单文件双时态图数据库,给 Agent 记忆内置时间轴 — JeremyCMorgan · 2026-10-29
- 台积电亚利桑那厂日耗水近 500 万加仑，数据中心遭居民联合抵制 — The Verge AI · 2026-10-29
- 4 台 DGX Spark 对比单台 Mac:Mature 生态与灵活性完胜 — JFPuget · 2026-10-29