训练模型输出权重编辑，可自动撤销微调效果
Sauers_ · x · 2026-11-08
作者展示了一种可解释性玩法：训练一个模型（Oracle：Qwen3-8B + LoRA），让它直接输出针对权重的“撤销编辑”（每层逐神经元 scale/shift），用来抵消微调带来的行为改变，把模型恢复到接近原版状态。
- 对微调后的 Qwen3-8B 施加撤销编辑，可关闭约 61% 的 KL 差距（fine-tune → Qwen3-8B 原版）。
- 训练用了约 430 个来自 6 个其他模型家族的微调样本；在 99 个未见家族的微调上验证。
- Oracle 比纯平均编辑（56.0%）、平均+神经元重缩放（58.5%）、ridge 回归（56.8%）效果更好；即使拿到错误微调的激活值，仍有 57.8%。
所属事件:训练 Oracle 模型自动生成权重编辑逆转微调(2 条相关)→
「研究」频道最新
- 两篇论文拼图:蒸馏暗带「隐性烙印」,RL 并未扩展推理上限 — andrew_n_carr · 2026-11-08
- 少量标注样本即可引导生成模型聚焦感兴趣区域、忽略无关数据 — caglar_ee · 2026-11-08
- 讽刺段子：为博眼球，机器人论文先想标题再补实验 — Sentdex · 2026-11-08
- Meta 论文：A/B 测试 Agent 只做规划，所有数字由确定性代码产出 — rohanpaul_ai · 2026-11-08
- MatAnyone-E 超高清视频抠像提速 7.4 倍，3090 可跑原生 4K — bdsqlsz · 2026-11-08
- 三位意识研究者Nature发文：AI在硅基硬件上不会产生意识 — The Decoder · 2026-11-08