乌尔姆大学提出 ERT 训练法,让 LLM 直接编辑神经网络权重
Timo Ropinski · hf · 2026-11-20
Ulm 大学的 Timo Ropinski 与 Sebastian Kranz 发布论文,研究如何训练视觉模型使其更易被 LLM 进行权重空间编程(weight-space programming),即让 LLM 直接修改神经网络权重。
核心内容:
- 构建了视觉模型上的 LLM 权重编辑 benchmark:五个 LLM 在 Waterbirds、CIFAR-100、PACS、Entity-30 数据集上对 CNN 和 ViT 执行重标注与纠错任务
- 共报告了 2600+ 次编辑过程,每次编辑都在留存图像上按成功率、副作用和精度损失评分
- 对比三种训练方式:标准训练(含 label smoothing)、基于梯度的可编辑训练,以及新提出的 ERT(Edit-Ready Training)——通过预演 LLM 会执行的直接闭式权重编辑来准备网络
- 结论:专为可编辑性设计的网络能大幅提升 LLM 编辑成功率;ERT 在 GPT-6 Astra 和 Claude Opus 5.5 上取得所有基线中的最高均分
作者承诺将开源测试框架及全部任务、编辑轨迹与评分数据。
「模型」频道最新
- 博士生求方案:API 测 20 个视频理解 benchmark,单模型成本近 2000 美元 — Alternative_Art2984 · 2026-11-20
- 用户吐槽 OpenAI:新模型没有重置额度,模型还更差了 — XFactorMan50 · 2026-11-20
- Nat Lambert 试用 Gemini Neon:手感接近 Claude Code 和 Codex — natolambert · 2026-11-20
- Polymarket 押注 Gemini 月底反超 Artificial Analysis 榜单 — LeviTurk · 2026-11-20
- Vercel 月报:决策模型占网关请求 26%,Anthropic 新团队 2:1 领先 — airesearch12 · 2026-11-20
- 都叫开源权重,差异有多大?六大实验室发布包横评 — WarmMycologist9549 · 2026-11-20