观察:Qwen 后期层神经元像开关,Olmo 则不然

Sauers_ · x · 2026-09-29

作者借助 Claude Opus 5.5 分析发现,Qwen 系列模型后期层的神经元行为类似「开关」(on-off),而 Olmo 模型中没有观察到同样的模式。

这暗示不同模型家族在后期层的激活稀疏性/二值化程度上存在结构性差异,可能影响可解释性分析的结论。作者未展开更多细节。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →