LLM 原生读写神经网络权重:0.8B 模型数学成绩 7.9%→48.1%
Marrk · reddit · 2026-11-03
博客《Sparks of Weight-Space Programming》展示代号 Astra 的 LLM 无需任何工具即可直接读取和编辑神经网络权重:
- Read:无工具读出 17,253 个权重,99% 置信判断出某策略网络是用 Breakout 游戏训练的;
- Fix:一次编辑 3.5% 的权重,让一个永远过不了坡道的策略从 0% 成功率达到 100%;
- Improve:用 Python 内核直接改权重、不做任何训练,把 Qwen3.5-0.8B 在 MATH-500 上的成绩从 7.9% 提到 48.1%。
这暗示 LLM 可能原生具备「权重空间编程」能力,绕过传统微调流程直接操作模型参数。
所属事件:MIT 团队提出权重空间编程:LLM 直接改权重使小模型数学成绩暴增(23 条相关)→
「模型」频道最新
- 用 Opus 做出 Spider-Verse 风格 2D 动画,社区疑其路由至 Fable 5.5 — minchoi · 2026-11-03
- 「Fable 5.5」演示续:一提示词生成鹈鹕骑马开自行车,代码动画动感十足 — minchoi · 2026-11-03
- 「Fable 5.5」单提示词产出完整 3D 开放世界 RPG,四模型横评差距明显 — minchoi · 2026-11-03
- 博主实测传闻中的 Claude Fable 5.5:奔跑长颈鹿测试胜过 Opus 5.5 — minchoi · 2026-11-03
- Fable 5.5 零提示词生成可交互 3D 帆船,传周二或正式发布 — minchoi · 2026-11-03
- Qwen 底模 93% 答案跑死循环,某「6 倍提升」疑破基线虚高 — paul_cal · 2026-11-03