MemTensor 推出记忆原生架构 MemT-1.0：推理提速 1.86 倍，128K 存储省 66 倍
_akhaliq · x · 2026-10-21
MemTensor 发布 MemT-1.0，提出「记忆原生」基础模型架构：把持久记忆作为模型前向计算的一部分，而非外挂检索。
架构图显示模型在 Transformer Block 中嵌入 Native Memory Block，配合 Local/Hyper Memory Block，通过记忆的擦除/写入/遗忘门控与 token 级更新，让记忆跨轮次持久保存并参与注意力计算。
官方数据：128K 历史长度下实现 1.86 倍推理加速和 66 倍存储缩减。
所属事件:记忆张量开源记忆原生模型 MemT-1.0(8 条相关)→
「Infra」频道最新
- 企业 token 支出增速从 42% 骤降至 0.2%,超大规模厂商 ROIC 跌至 20% — SumitGup · 2026-10-21
- 高通全球裁员转战 AI 数据中心：目标 2027 年 50 亿美元营收 — rohanpaul_ai · 2026-10-21
- vLLM 登台 PyTorchCon 2026：跨 TPU、AMD、NVIDIA 优化 KV cache 与内核 — PyTorch · 2026-10-21
- antirez 尝试用 DeepSeek Infer 为 DGX Spark 优化 DwarfStar 内核 — antirez · 2026-10-21
- 三进制 2-bit 端侧模型 Ternary-Bonsai-2-9B 上架 HF,支持视觉输入 — prism-ml · 2026-10-21
- GPU 管预填、Positron 管解码:异构推理组合瞄准内存带宽瓶颈 — cneuralnetwork · 2026-10-21