无需训练或梯度:27B 模型可自行改写权重提升 unseen 任务

udmrzn · x · 2026-11-18

arXiv 论文《Language Models Can Rewrite Their Own Weights》(Jiajun Fan 等)提出:一个 27B 语言模型在不做训练、不用梯度的情况下,可以诊断自身错误并直接改写自己的权重,从而在未见过的任务上取得提升。

作者认为,这暗示模型可能可以仅通过推理过程就被永久性更新——无需微调循环或 context 堆叠记忆。若在单 GPU 上可靠运行,将为持续、局部化的模型自适应开辟全新范式,对构建自我改进的 agent 尤其有意义。

所属事件:新论文:27B 语言模型无需训练即可重写自身权重(3 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →