Reddit 讨论:让 ngram 嵌入表可写,实现推理期的动态「记忆」
RapidRaid · reddit · 2026-09-12
作者提出一个想法:参考 Qwen 与 DeepSeek 等模型中的 ngram 嵌入查表机制,在预训练只读表之上叠加一个推理期可写的「live」表——学到新知识时写入新嵌入,高频条目保留、低频条目衰减删除,从而在推理阶段实现类似记忆形成与遗忘的快速更新。属开放性探讨,尚无实现或实验。
「研究」频道最新
- Terminal-Bench Science 上开源模型惨淡:最佳仅 4/70 分 — teortaxesTex · 2026-09-12
- RLWRLD 5 篇论文入选 CoRL 2026,人类视频预训练让 VLA 完成率升至 80.3% — chris_j_paxton · 2026-09-12
- 普林斯顿 PACMAN 系统 20 毫秒内实时控制核聚变等离子体 — TheGoldenLeaper · 2026-09-12
- 实测:全文档上下文生成代码块描述不优于免费结构上下文 — donk8r · 2026-09-12
- Kenneth Stanley:菲尔兹奖风波印证「路径比终点更重要」 — typewriters · 2026-09-12
- 经济学家用数据中心投资校准 AI 自动化对劳动力市场冲击 — mioana · 2026-09-12