清华提出 JANUS:微调后矫正参数,旧知识恢复超预训练水平

机器之心 · wechat · 2026-11-22

清华大学与滴滴自动驾驶联合研究提出 JANUS 框架(NeurIPS 2026 接收),针对大模型微调的灾难性遗忘问题,不在训练中施加约束,而是在微调完成后对参数做后处理矫正,恢复受损历史知识同时保留新任务能力。核心思路:传统子空间正交约束(ΔW·M=0)是充分但不必要条件,过度限制学习空间;JANUS 将其放松为参数空间向量正交的充要条件 Tr(ΔW·M)=0,通过雅可比零空间投影把参数更新量矫正到对旧任务损失一阶不变的方向。由于无遗忘方向只是局部的,进一步引入多步自适应矫正:小步多次投影,每步重算雅可比矩阵,并用 JANUS shift 指标自适应选步长;配合 Ghost 操作与 SVD 压缩降低开销——7B 模型仅需 1 张 A100、30 分钟。实验结果:在 LLaMA-2-7B 数学任务中将历史知识保持指标 AP₁ 从 67.55% 提升至 106.16%,代码任务从 79.71% 提升至 109.83%,新任务能力仅下降约 1 个百分点;效果跨基础模型、任务和微调方法稳定成立。论文与代码已公开。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →