清华提出 JANUS:微调后矫正参数,旧知识恢复超预训练水平
机器之心 · wechat · 2026-11-22
清华大学与滴滴自动驾驶联合研究提出 JANUS 框架(NeurIPS 2026 接收),针对大模型微调的灾难性遗忘问题,不在训练中施加约束,而是在微调完成后对参数做后处理矫正,恢复受损历史知识同时保留新任务能力。核心思路:传统子空间正交约束(ΔW·M=0)是充分但不必要条件,过度限制学习空间;JANUS 将其放松为参数空间向量正交的充要条件 Tr(ΔW·M)=0,通过雅可比零空间投影把参数更新量矫正到对旧任务损失一阶不变的方向。由于无遗忘方向只是局部的,进一步引入多步自适应矫正:小步多次投影,每步重算雅可比矩阵,并用 JANUS shift 指标自适应选步长;配合 Ghost 操作与 SVD 压缩降低开销——7B 模型仅需 1 张 A100、30 分钟。实验结果:在 LLaMA-2-7B 数学任务中将历史知识保持指标 AP₁ 从 67.55% 提升至 106.16%,代码任务从 79.71% 提升至 109.83%,新任务能力仅下降约 1 个百分点;效果跨基础模型、任务和微调方法稳定成立。论文与代码已公开。
「研究」频道最新
- 斯坦福 CS312 深度学习炼金术课开课,作者建议用课程测验做合成数据种子 — jasondeanlee · 2026-11-22
- John Langford 评 FBT 笔记:定点迭代收敛与量化隐状态缓存 — JohnCLangford · 2026-11-22
- 菲尔兹奖得主吴宝珠评 AI 证明黎曼猜想:把 AI 输出当作待审视的自然数据 — Dr_Atoosa · 2026-11-22
- GPT-6 写出六页证明 Deligne 界,仅用 Cauchy–Schwarz 不等式 — Singularitarian · 2026-11-22
- 从 Hassabis 到 Tao:年初还被泼冷水的 AI 解数学千年难题,如今接连告破 — haider1 · 2026-11-22
- UT Austin 系统 Darmok 全对解出 7 道题,领先人类冠军 3 分 13 秒夺 cryptic 填字冠军 — rohanpaul_ai · 2026-11-22