Astra 改 Qwen 权重真相:只是套用公开可解释性技术,并非 RSI

markjeffrey · x · 2026-11-03

hosseeb 对「Astra 修改 Qwen 3.5-0.8B 权重」论文作出重要澄清:故事不是「Astra 用 LLM X 光视手术式改造同伴权重」,而是它找到了一种已发表的可解释性技术,能解决这类特定失败模式,并自己实现了它——属于 LLM 能力的已知范围内,不是 RSI,更不是 HN 上传的「LLM 心灵感应」。

论文作者 a1zhang 补充内幕:最初以为数学成绩大涨是模型「编辑出了」纯能力增益,后来才发现主要问题其实是推理循环(looping)——数学提升来自减少了 harness 层面的循环,这与他们早前训练 RLM 时观察到的 benchmark 跳升现象一致,Astra 用的正是基于 activation 的一类已公开技巧。

所属事件:Astra 改 Qwen 权重真相:只是套用公开可解释性技术,并非 RSI(3 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →