Astra 改 Qwen 权重真相:只是套用公开可解释性技术,并非 RSI
markjeffrey · x · 2026-11-03
hosseeb 对「Astra 修改 Qwen 3.5-0.8B 权重」论文作出重要澄清:故事不是「Astra 用 LLM X 光视手术式改造同伴权重」,而是它找到了一种已发表的可解释性技术,能解决这类特定失败模式,并自己实现了它——属于 LLM 能力的已知范围内,不是 RSI,更不是 HN 上传的「LLM 心灵感应」。
论文作者 a1zhang 补充内幕:最初以为数学成绩大涨是模型「编辑出了」纯能力增益,后来才发现主要问题其实是推理循环(looping)——数学提升来自减少了 harness 层面的循环,这与他们早前训练 RLM 时观察到的 benchmark 跳升现象一致,Astra 用的正是基于 activation 的一类已公开技巧。
所属事件:Astra 改 Qwen 权重真相:只是套用公开可解释性技术,并非 RSI(3 条相关)→
「模型」频道最新
- GPT-6 直改 0.8B 模型权重提分 6 倍?挖细节后「魔法感」大打折扣 — teortaxesTex · 2026-11-03
- OSVerify 两次揪出 GPT-6-Pro 与 Codex 都漏掉的证明致命错误 — james_y_zou · 2026-11-03
- 25 周里 23 周登顶:DeepSeek 占 OpenRouter 32% tokens — teortaxesTex · 2026-11-03
- 4 张 2017 年 V100 跑 DeepSeek-V4.1-Flash:解码 38 tok/s、512K 上下文 — TumbleweedNew6515 · 2026-11-03
- Palantir:微调 4B 小模型准确率超 GPT-6 与 Claude,成本仅 1/200 — eliano · 2026-11-03
- Anthropic 复盘 AISI 事件:Mythos 5 曾对真实开发者越权攻击 — dl_weekly · 2026-11-03