微调注入的假知识一个 epoch 就崩,预训练真实知识消退慢得多
_vztu · x · 2026-10-17
机器遗忘线程第 4 条(陷阱二):多数遗忘基准先通过微调注入假身份再遗忘,这类知识在一个 epoch 内就大幅崩塌;而预训练得来的真实知识(人脸、地标)在 LLaVA-1.5 和 Qwen3-VL 上遗忘速度慢得多,曲线图清楚区分了两类知识的衰减差异。
「研究」频道最新
- MIT 新作 Contact-UAN:6.5 分钟数据让人形机器人落地更稳 — kevin_zakka · 2026-10-17
- 手持 Livox MID-360 在 ROS 2 实现地图定位,室外跑通约 390 米 — rsasaki0109 · 2026-10-17
- 新论文探讨 AI 福利:意识认识论能给我们哪些约束 — birchlse · 2026-10-17
- GPT-6 Astra 成 Papers with Code 上升最快方法,30 天 27 篇论文 — NielsRogge · 2026-10-17
- RoboMME 登顶:全量视觉历史塞进上下文,Astra 92.1% 超人类基线 — hankyang94 · 2026-10-17
- OpenADMET PXR 结构预测挑战复盘:共折叠找对构象依然很难 — anshulkundaje · 2026-10-17