两行代码复现「权重空间编程」:把 Qwen3.5 某权重翻倍修循环
VictorSanh · x · 2026-11-12
作者给出在 MATH-500 上复现「权重空间编程」修复的两行代码:加载 Qwen/Qwen3.5-0.8B 后,直接把第 22 层 MLP downproj 权重第 573 列乘以 2,即可修复模型爱生成 "Wait"、陷入循环耗尽思考 token 的问题(原失败率 93%)。
这是前一帖的补充:Beaker agent 在不训练、不跑梯度的情况下自主找到了这处权重修改——把一次黑盒的 agent 行为修复,压缩成任何人都可用 transformers 验证的两行代码。
「研究」频道最新
- Sokoban 推箱子 LLM 评测上线:全网挑战模型最短路线纪录 — banteg · 2026-11-12
- 1920年《大众机械》预言成真:日食观测证实光线被引力弯曲 — generativist · 2026-11-12
- ELIZA 原始代码 2021 年才现世:2600 行纸稿靠人手敲回 — demian_ai · 2026-11-12
- 历时一年半研究:LLM 的好奇心行为差异与多智能体协作 — radamihalcea · 2026-11-12
- ContactBench 1.0 发布:可打印资产评测机器人接触式操作 — leto__jean · 2026-11-12
- 数学形式化圈新梗:把 nLab 整个形式化才算「最终 Boss」 — burny_tech · 2026-11-12