研究者让 1B 模型分块读长文并用记忆扩展上下文

alex_verem · x · 2026-07-25

• 来自 MBZUAI、Princeton、Weizmann 的研究团队，重新设计了一个 1B 参数模型 的阅读方式。
• 它不再一次性关注全部上下文，而是按 1,024 token 分块读取，并通过联想记忆把关键信息传到下一块。
• 研究者刻意模仿人类记忆：块内完整注意力相当于短期记忆，块间传递模块相当于长期记忆。
• 训练方式也采用了渐进式课程学习：先短文本、简单任务，再逐步提高难度。
• 结果是：长文处理时的显存压力明显下降，基线模型在超出上下文限制后迅速崩掉的问题得到缓解。

原文链接 →

「研究」频道最新

• EMNLP Oral 论文：免训练 KV 缓存驱逐实现 10 倍内存压缩 — yuz9yuz · 2026-10-27
• ICML 2026立场论文:别把中间token叫「思考轨迹」 — rao2z · 2026-10-27
• forking 收官：probe gap 随上下文频率呈幂律，掩蔽低频 n-gram 可缩小差距 — ZimingLiu11 · 2026-10-27
• 「forking」机制拆解：n-gram 表把 logits 切成互不干扰的子空间 — ZimingLiu11 · 2026-10-27
• 被称最佳 LoRA 讲解视频：从几何直觉讲到任务内在维度 — sophiamyang · 2026-10-27
• 不改一个权重，机器人精度任务从 0/10 提到 9/10 — hbouammar · 2026-10-27

更多「研究」频道 AI 资讯 →