研究者澄清 Astra 改权重：套用公开可解释性技术而非 RSI
围绕 GPT-6 Astra 编辑 Qwen3.5-0.8B 权重的研究，多位研究者作出澄清。hosseeb 指出这并非「X 光视手术式改造」或 RSI，而是模型找到了一种已发表的可解释性技术。Neel Nanda 评价这是老派机制可解释性，并非灵异现象。1a3orn 补充该实验遗漏了失败案例：权重编辑之所以有效，是因为 Qwen3.5 本就存在 93% 回答跑满 token 上限的死循环缺陷，而对没有此类缺陷的 Gemma 270m 则无效。
2026-11-03 ~ 2026-11-03 · 3 条相关
- 第 1 集:MIT 研究：LLM 直接改权重，0.8B 模型数学成绩提升 6 倍(2026-11-03,39 条)
- 第 2 集:研究者澄清 Astra 改权重：套用公开可解释性技术而非 RSI(2026-11-03,3 条)
- 第 3 集:GPT-6 直改小模型权重引热议，遭扒皮实为转向向量加试错(2026-11-03,2 条)
- 补刀分析:Astra 权重手术只对有死循环缺陷的 Qwen 有效,救不了 Gemma 270m — teortaxesTex · 2026-11-03
- Neel Nanda 评 GPT-6 Astra 改权重：是老派机制可解释性，并非灵异 — JacquesThibs · 2026-11-03
- Astra 改 Qwen 权重真相：只是套用公开可解释性技术，并非 RSI — markjeffrey · 2026-11-03