哈佛论文:简单参数平均 SFA 胜过 replay,省 36% 训练时间
哈佛博士候选人 Anat Kleiman 与 Jonathan Frankle、Sham Kakade 等人更新预印本《Forget About It: Mitigating Forgetting》。论文提出 SFA(简单参数平均)方法:在序列微调中对模型做平均,即可在持续学习任务上超越 replay 等复杂方法,且训练时间最多减少 36%,无需 replay、无需额外数据,以极简方案缓解灾难性遗忘问题。
2026-11-20 ~ 2026-11-20 · 2 条相关
- 同上 — jefrankle · 2026-11-20
- 哈佛团队新论文:简单参数平均 SFA 击败 replay,省 36% 训练时间 — jefrankle · 2026-11-20