Qwen3 单专家激活转向实验走红,可注入猫人格

网友 Sauers 的激活转向实验在社区走红:对 Qwen3-30B-A3B 的 MoE 单个专家施加干预,即可大幅改变模型行为。在 240 个随机测试向量中有 1 个能让模型坚称自己是猫;在第 12 层锁定 Expert 25 持续激活可注入全新人格;对 Expert 115 施加负向强度能让模型一句话变成「剑桥数学家」;在第 26 层强制激活 Expert 88 则让模型自称「有点困惑但还在」。这些演示展示了专家级 steering 对模型人格与行为的精细可控性。

2026-11-06 ~ 2026-11-06 · 4 条相关