训练教会 Qwen3-8B 新通道:移除一个方向,机械手就不会在墙前停下

teortaxesTex · x · 2026-11-17

repligate 转发点评:@Sauers 与 @euagaric 产出机制可解释性(mechinterp)研究的速度与质量堪称空前,并分析其方法论——Sauers 擅长从多年自然istic 观察 LLM 行为的「自然主义者」视角寻找方向,这是多数 mechinterp 研究者不具备的,且敢于极端地无视常规去追踪现象本身。

引用的具体发现:euagaric 在教 Qwen3-8B 驱动模拟机械手时发现,模型内部存在一个方向编码指尖按压力度;移除它,手就无法在墙前停下;添加它,手会提前停下。这并非模型原有的「压力」概念,而是训练新造出的信息通道。

所属事件:Qwen3-8B 控制机械手,内部长出独立压力编码通道(2 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →