无需训练或梯度:27B 模型可自行改写权重提升 unseen 任务
udmrzn · x · 2026-11-18
arXiv 论文《Language Models Can Rewrite Their Own Weights》(Jiajun Fan 等)提出:一个 27B 语言模型在不做训练、不用梯度的情况下,可以诊断自身错误并直接改写自己的权重,从而在未见过的任务上取得提升。
作者认为,这暗示模型可能可以仅通过推理过程就被永久性更新——无需微调循环或 context 堆叠记忆。若在单 GPU 上可靠运行,将为持续、局部化的模型自适应开辟全新范式,对构建自我改进的 agent 尤其有意义。
所属事件:新论文:27B 语言模型无需训练即可重写自身权重(3 条相关)→
「研究」频道最新
- 旅行者1号距地球达一光日,信号单程要走24小时 — snowclipsed · 2026-11-18
- TCS 学界发布声明:招聘重质量轻数量,抵制 AI 论文军备竞赛 — fortnow · 2026-11-18
- 论文提出语言创造性的社会文化视角:从社区实践看创意生成 — abenitezburraco · 2026-11-18
- 开源 EDA 工具十年逆袭:从「不可能」到设计出蓝牙信标芯片 — IgorCarron · 2026-11-18
- AURA 2.0 发布:流式视频模型学会主动开口说话并调用工具 — Shuhan Li · 2026-11-18
- Orabona 撰文驳 AdaGrad 预条件化解释:全矩阵界限常不如标量学习率 — bremen79 · 2026-11-18