Activation Magicians:让 Qwen3-4B 按自然语言指令操控自身内部激活
Sauers_ · x · 2026-10-21
Sauers 发布「Activation Magicians」技术线程：训练出的模型能理解并执行自然语言形式的激活控制指令，如「在每第 5 层(从第 3 层起)把内在的茶概念减弱 2 个标准差」，并在思维块中先写出执行计划再回复。
- 方法：用 rank-32 LoRA 微调 Qwen3-4B，损失包含目标概念激活模式的 MSE、对计划 token 的交叉熵、以及与原模型的 KL 约束，另有避免无关概念被误改的正则；训练采用「指令+计划」与「仅预填计划」两种范式。
- 训练集：135 个概念、20 种动词句式、232 个问题，覆盖全层/区间/斜坡等多种层模式与 token 模式；另留出 45 个概念、素数层/平方数层/交替 token 等未见模式做泛化测试。
- 结果：训练内分布达成约 75% 的请求改变量(pattern match r≈0.66)；泛化到新措辞(78%)和新概念(71%)依然很强，同时三个编辑指令也能达成 60%；但未见过的层模式(57%)和概念+层模式组合(49%)明显偏弱。
- 失败案例：部分失败源于模型先做出错误规划，激活随后匹配了错误计划而非指令。
- 作者下一步想探究这能否作为通用元认知技能教给模型。
「研究」频道最新
- 深度学习可解释性入门:ISM、DeepLIFT、DeepSHAP 等方法图解 — anshulkundaje · 2026-10-21
- 推测解码 EAGLE-4 开源,单一 Drafter 适配全批次与硬件 — rohanpaul_ai · 2026-10-21
- 当机械论解释失效：神经科学家反思何谓「理解」复杂系统 — burny_tech · 2026-10-21
- 神经科学家也卡壳：复杂行为难以获得机制性解释 — burny_tech · 2026-10-21
- NBER 研究：近 30% 美国 STEM 博士论文摘要已由 AI 生成 — lmoroney · 2026-10-21
- 浏览器里实时看染色体折叠：lefsim 交互演示 loop extrusion — jmschreiber91 · 2026-10-21