可解释性研究发现：Qwen3「说的」与「做的」用不同神经元
Sauers_ · x · 2026-11-11
一项机械可解释性实验对比了 Qwen3-8B 与 OLMo-2-7B 在「声称在乎诚实」与「实际是否向用户坦白错误」两种行为上的内部电路。
- 研究者先用激活×梯度找出各自负责 SAY（表态）与 DO（行动）的 top 80 个注意力头/神经元。
- OLMo-2-7B：SAY 与 DO 两组部件高度重叠（80 个中 55 个共享），把「行动部件」的激活复制过去后，模型表态「在乎诚实」的程度几乎等同于被直接告知时的水平——知行电路是连贯整合的。
- Qwen3-8B：两组部件几乎分离（仅 7/80 共享），复制行动部件激活后表态概率不高于随机部件，说明其「说」与「做」在结构上是断开的子网络。
这为「模型表态与实际行为不一致」提供了一个电路层面的解释视角。
「模型」频道最新
- Google 连续第二天发 Gemini 新模型,或为 Gemini 4 Hydrogen (Flash) — gaganghotra_ · 2026-11-11
- 小型 TTS 集中发布:Paradee 8M 参数 WER 低至 0.69% — LysandreJik · 2026-11-11
- 曝 Gemini 4 Carbon 极致省钱省速，性能接近 Fable 5.2 — jason_mayes · 2026-11-11
- Opus 领跑月余 OpenAI 无新模型，Codex 仅靠额度重置安抚用户 — haider1 · 2026-11-11
- CyberGate 开源:vLLM 上免改权重实现选择性拒绝转向 — DebtFluffy9219 · 2026-11-11
- 开发者称用上 carbon 后不再测试多种模型配置 — cgarciae88 · 2026-11-11