GPT-6直接改权重：仅动0.016%参数，Qwen数学提升6倍
coallaoh · x · 2026-11-04
rikiyatakehi 团队展示「Weight-Space Programming」：让前沿 LLM 原生读写神经网络权重，无需梯度或训练即可修复模型。
- 实验：让 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的权重以提升数学能力
- Astra 仅修改 0.016% 的权重，就修复了 0.8B 模型的推理死循环，数学能力最高提升 6 倍，指令遵循也提升 3 倍
- @oodgnas 阅读其 qwen-math 实验后总结其方法：利用训练样本（输入、标签）与激活值（如 model.layers.{l}.mlp.downproj.weight）进行统计诊断，定位并编辑可疑神经元——一种全新的模型优化范式
所属事件:MIT 研究：LLM 直接编辑权重，免训练大幅提升模型能力(109 条相关)→
「模型」频道最新
- DeepSeek 上线「DeepSeek Harness」频道：属于你的 Harness，你来定义 — gnukeith · 2026-11-04
- 求推荐弱机可跑的无审查本地模型，用于检索与批量下载 — Emotional_Orange_279 · 2026-11-04
- DeepSeek 故障约 1 小时 44 分，社区猜测算力正挪给 V4.1 Pro — AccBalanced · 2026-11-04
- Claude 手写权重造出 984 参数神经网络，C 语法高亮跑得比 Pygments 快 — AlpinDale · 2026-11-04
- Fireworks Forge 大会发布 Sovereign 私有化栈与 Ember 下一代，效率再提 30 倍 — AccBalanced · 2026-11-04
- Kimi K3.1 Pro 明日开源权重,2.8T 参数、百万上下文 — togethercompute · 2026-11-04