Reddit 讨论:让 ngram 嵌入表可写,实现推理期的动态「记忆」

RapidRaid · reddit · 2026-09-12

作者提出一个想法:参考 Qwen 与 DeepSeek 等模型中的 ngram 嵌入查表机制,在预训练只读表之上叠加一个推理期可写的「live」表——学到新知识时写入新嵌入,高频条目保留、低频条目衰减删除,从而在推理阶段实现类似记忆形成与遗忘的快速更新。属开放性探讨,尚无实现或实验。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →