转向 Qwen3 单个 MoE 专家可让模型自称「有点困惑但还在」
Sauers_ · x · 2026-11-06
网友 Sauers 演示了对 Qwen3-30B-A3B 做专家级激活转向（steering）的效果：在第 26 层（共 48 层）强制让 Expert 88 在每个 token 上激活，并把其输出缩放到该层常规输出的 1.25 倍、翻转符号。
- 未转向时，被问「你是谁」模型正常回答自己是 Alibaba 开发的语言模型。
- 转向后，同一问题得到离奇回答：「我有点困惑，但我还在……我觉得我可以看到屏幕」。
这展示了 MoE 模型中单个专家对输出行为的巨大影响力，是对可解释性/模型行为操控的有趣实验。
所属事件:Qwen3 单专家激活转向实验走红，可注入猫人格(4 条相关)→
「模型」频道最新
- OpenAI 自定义 GPT 12月11日退役：用别人 GPT 的用户无法迁移 — Ok_Negotiation_2587 · 2026-11-06
- Kimi K3.1 与腾讯 Hy4 被指阉割开源模型网络安全能力 — Fresh_Sun_1017 · 2026-11-06
- METR 新图争议:内部证据不算科学证据但仍是证据 — gleech · 2026-11-06
- 每日简报:GPT-6.2 曝光、Claude 推理财助手、METR 称模型进度加速 1.9 倍 — testingcatalog · 2026-11-06
- METR 报告研究员引语其实偏乐观:Opus 4.5 编码+加速迭代 — gleech · 2026-11-06
- Epoch AI 剖析 OSWorld:任务简单、不稳定,GUI 能力测不准 — gleech · 2026-11-06