2D 格点循环单元:新型神经记忆架构以 3×3 局部读写存取记忆
CFGeek · x · 2026-10-03
Christos Tzamos 团队发布一种新颖的神经记忆架构,并附博客与论文链接:
- 记忆被建模为一个无界的二维循环单元格点(lattice)。
- 网络学习将每个 key/query 映射到格点上的一个位置。
- 写入与读取都只通过该位置周围一个极小的 3×3「凸包」区域进行,以局部读写实现大规模记忆存取。
转发者评价这是「非常聪明」的记忆架构设计,记忆机制是当前 LLM 长上下文与 agent 持久化的核心瓶颈之一。
「研究」频道最新
- ezyang 深度解析：用 Roofline 模型在 Hopper 上训练 DeepSeek-V3 — ezyang · 2026-10-03
- 36B 开源机器人模型无本地 GPU 实时运行,物理 AI scaling law 显现 — AkshatS07 · 2026-10-03
- 有害性评测流程：BeaverTails 训探针、JBB 训模型、ClearHarm 验泛化 — maksym_andr · 2026-10-03
- 机器人演示最关键的半秒丢失:论文指出跟踪缺口破坏模仿学习数据 — Klutzy_Cap8492 · 2026-10-03
- Hinton 领衔发文：递归自我改进引发的智能爆炸或很快到来 — geoffreyhinton · 2026-10-03
- Spotlight 架构引热议：注意力记忆能力配线性成本遭质疑 — teortaxesTex · 2026-10-03