研究者六推长文探讨大模型该固化知识还是依赖检索
研究者 @krishnan 在讨论《Language Models Need Sleep》论文的六推线程中指出，大模型面对新知识时应固化进权重还是依赖检索需要验证，他提出六步验证法来核算这笔「训练账」是否划算。其中第 5 点强调，在假设记忆巩固应当取代检索之前应先做对比——有些知识变化太快，本就不该固化进模型权重。该线程为「睡眠」范式提供了冷思考。
2026-10-29 ~ 2026-10-29 · 2 条相关
- 第 1 集:谷歌提出「睡眠框架」让 LLM 持续学习不忘旧知(2026-10-28,8 条)
- 第 2 集:研究者六推长文探讨大模型该固化知识还是依赖检索(2026-10-29,2 条)
- 对「睡眠」范式的冷思考:记忆巩固未必该取代检索 — krishnan · 2026-10-29
- 知识固化值不值这笔训练账？一位研究者的六步验证法 — krishnan · 2026-10-29