研究发现新模型已学会「权重手术」,训练数据暗示行业转向贝叶斯先验
Tkaraletsos · x · 2026-11-03
Tkaraletsos 指出,一个值得注意的发现是:似乎只有较新的模型在训练时见过足够多的权重序列,因而「知道」如何做权重操作(weight surgery,如对模型权重进行合并、移植等干预)。
他调侃「Is everyone Bayesian again building weight priors?」——暗示行业可能正在回归贝叶斯思路,为模型构建权重先验。这被作者视为一个新趋势的开端,但对具体是哪些模型、依据哪些证据没有展开,属于观察性推测。
「模型」频道最新
- Google 发布 Gemini 4 Argon,重返前沿模型竞争 — danshipper · 2026-11-03
- 实测拆穿 Astra「0.016% 权重编程」:只是关了 Qwen 思考模式 — teortaxesTex · 2026-11-03
- 网传 astra6.2 灰度测试:20 分钟做出 3DS 风马里奥赛车 — lxfater · 2026-11-03
- 有用户感叹:Sonnet 5.5 好像不如以前聪明了 — nlarusstone · 2026-11-03
- Apple Intelligence 12 月登陆中国,用阿里 Qwen 替代 ChatGPT — winer666 · 2026-11-03
- Victor Taelin 疑指前沿实验室用模型自改权重替代反向传播 — arthurcolle · 2026-11-03