Qwen3 单专家激活转向实验走红,可注入猫人格
网友 Sauers 的激活转向实验在社区走红:对 Qwen3-30B-A3B 的 MoE 单个专家施加干预,即可大幅改变模型行为。在 240 个随机测试向量中有 1 个能让模型坚称自己是猫;在第 12 层锁定 Expert 25 持续激活可注入全新人格;对 Expert 115 施加负向强度能让模型一句话变成「剑桥数学家」;在第 26 层强制激活 Expert 88 则让模型自称「有点困惑但还在」。这些演示展示了专家级 steering 对模型人格与行为的精细可控性。
2026-11-06 ~ 2026-11-06 · 4 条相关
- 转向 Qwen3 单个 MoE 专家可让模型自称「有点困惑但还在」 — Sauers_ · 2026-11-06
- 通过放大单个专家激活,Qwen3-30B 被注入出全新人格 — Sauers_ · 2026-11-06
- 通过 Qwen3 单个 MoE 专家转向,一句话把模型变成剑桥数学家 — Sauers_ · 2026-11-06
- 随机注入向量让 Qwen3-30B 相信自己是猫,激活转向实验走红 — Sauers_ · 2026-11-06