随机注入向量让 Qwen3-30B 相信自己是猫，激活转向实验走红
Sauers_ · x · 2026-11-06
Sauers 演示对 Qwen3-30B-A3B 的 MoE 专家做激活转向（activation steering）：在 240 个随机测试向量中，有 1 个能让模型坚称自己是一只猫，还回忆起幼时玩激光笔的细节。
- 具体做法：在第 11 层之后对每个 token 叠加同一随机向量，强度 -1.5（约为常规隐状态尺寸的 1.5 倍）
- 转向后模型对「你是谁」的回答从标准自我介绍变成「我以为我是猫」
- 展示了 MoE 模型内部表征的脆弱性与可操纵性
所属事件:Qwen3 单专家激活转向实验走红，可注入猫人格(4 条相关)→
「Fun」频道最新
- Slack agent Biscuit 自主改投票应用,连偷懒需求都照办 — blixt · 2026-11-06
- X 上已识别约 780 个 AI slop 账号，可用 agent 每日自动拉黑 — TheZachMueller · 2026-11-06
- 一句话梗：人的目的是爱，Claude 的目的是钱 — curious_vii · 2026-11-06
- Yacine 吐槽 AI 圈憋大招文化：跳槽不官宣，专等模型发布蹭热度 — yacineMTB · 2026-11-06
- 梗图对比 2006 与 2026 年搭讪：如今得先过 AI 这关 — Aiden_Tech_Ai · 2026-11-06
- 单条 prompt 驱动 Codex 跑 17 小时,动用 109 个子智能体 — andimarafioti · 2026-11-06