不重训练,直接改 5064 个权重:DAWE 让模型适配新 harness
lateinteraction · x · 2026-11-18
llmluthor 介绍 DAWE(Data-Attributed Weight-Editing)方法:当模型在新 harness 上表现崩溃时,不做重训练,而是直接编辑权重——在 40 亿参数中只改了 5064 个,准确率从 20.1% 提升到 88.2%,且旧 harness 上的准确率不受影响,全程不用梯度下降。作者称该方法已完全开源。这条推文被 Contextual AI 的 lateinteraction 转发,引发关注。
「研究」频道最新
- 原子级基础模型瓶颈转移:模型已逼近 DFT 标签自身误差 — matt_slotnick · 2026-11-18
- 开发者自研优化器 ApexW:显存占用约为 bitsandbytes 一半,损失低于 AdamW — omendUUde · 2026-11-18
- 页面倾斜 2-4 度就换冠军:BenchBench 实测打脸解析器榜单 — thisguyknowsai · 2026-11-18
- 预测病毒进化再按需设计抗体:AI4Science「预见未来」疗法框架 — BrianHie · 2026-11-18
- 268 名数学研究生 surveyed:怕 AI 抢饭碗,但照样在用 — cyndaquilled · 2026-11-18
- Multi-Branch Transformer:并行分支扩展 LLM,同损失省 1.26 倍算力 — KyeGomezB · 2026-11-18