Spotlight 记忆架构：线性复杂度实现容量增长，长上下文超越注意力
marcbhargava · x · 2026-10-03
来自 apjacob03 的介绍：为让 LLM 具备自主扩展能力，团队提出 spotlight——一种容量可持续增长、但计算复杂度保持线性的记忆架构。通过把 Python 直接内建进 LLM，他们证明该架构足以承载像软件生态这样不断演化的系统。早期语言建模结果显示，它在长上下文能力上优于 attention 和线性注意力。
所属事件:Percepta 发布 Spotlight 架构：智能与记忆分离，记忆可无限增长(5 条相关)→
「研究」频道最新
- 扩散模型生成国际象棋谜题：新 RL 配方破纪录，模型开源 — TZahavy · 2026-10-03
- 传统 nDCG 高分仅 53% 获人类认同,RCP-nDCG 提升至 97% — Nils_Reimers · 2026-10-03
- MemFold 用固定预算软记忆加在线优化刷新长程个性化记忆基准 — Jingxuan Wu · 2026-10-03
- AI 智能体离科学家还有多远？研究称其难产真正科学洞见 — typewriters · 2026-10-03
- ezyang 深度解析：用 Roofline 模型在 Hopper 上训练 DeepSeek-V3 — ezyang · 2026-10-03
- 36B 开源机器人模型无本地 GPU 实时运行,物理 AI scaling law 显现 — AkshatS07 · 2026-10-03