微调注入的假知识一个 epoch 就崩,预训练真实知识消退慢得多

_vztu · x · 2026-10-17

机器遗忘线程第 4 条(陷阱二):多数遗忘基准先通过微调注入假身份再遗忘,这类知识在一个 epoch 内就大幅崩塌;而预训练得来的真实知识(人脸、地标)在 LLaVA-1.5 和 Qwen3-VL 上遗忘速度慢得多,曲线图清楚区分了两类知识的衰减差异。

所属事件:研究发现视觉概念远比密码难遗忘(2 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →