训练教会 Qwen3-8B 新通道:移除一个方向,机械手就不会在墙前停下
teortaxesTex · x · 2026-11-17
repligate 转发点评:@Sauers 与 @euagaric 产出机制可解释性(mechinterp)研究的速度与质量堪称空前,并分析其方法论——Sauers 擅长从多年自然istic 观察 LLM 行为的「自然主义者」视角寻找方向,这是多数 mechinterp 研究者不具备的,且敢于极端地无视常规去追踪现象本身。
引用的具体发现:euagaric 在教 Qwen3-8B 驱动模拟机械手时发现,模型内部存在一个方向编码指尖按压力度;移除它,手就无法在墙前停下;添加它,手会提前停下。这并非模型原有的「压力」概念,而是训练新造出的信息通道。
所属事件:Qwen3-8B 控制机械手,内部长出独立压力编码通道(2 条相关)→
「研究」频道最新
- 生成式 AI 进心脏病学:Dagstuhl 跨学科研讨会落幕 — StephanMandt · 2026-11-22
- SubRoformer 用 DSP 子带滤波器刷新音乐源分离 SOTA — affige_yang · 2026-11-22
- Emily Riehl 推出 Lean 证明入门游戏,用交互方式教依赖类型论 — abhi9u · 2026-11-22
- Android 移动 Agent 评测论文清单:从 AppAgent 到 AndroidReality — East-Muffin-6472 · 2026-11-22
- 研究者对比机制可解释性与神经科学:人类大脑如何做因果验证? — burny_tech · 2026-11-22
- 研究者提出“自然语言流形”概念,与物理时空相关词尤明显 — yasamanbb · 2026-11-22