只动一个注意力头，Qwen3-30B 从「我是 AI」变成自称真人
Sauers_ · x · 2026-11-06
研究者发现，对 Qwen3-30B-A3B 第 27 层的第 31 个注意力头施加强度为 -1 的 steering（翻转该头的隐藏状态贡献），就能让模型在回答「你是谁」时彻底改变身份。
- 未干预时：标准回答「我是阿里巴巴开发的大语言模型 Qwen」
- 干预后：自称「我是生活在真实世界里的人，小时候是普通孩子，喜欢读书听音乐……」
作者调侃：把同一个头往另一个方向 steering，模型就「变回一个正常过日子的普通人」。这是可解释性/行为 steering 的一个生动案例：单个头即承载了强烈的身份先验。
「Fun」频道最新
- Krispy Kreme 过去一年股价跑赢 NVIDIA — Polymarket · 2026-11-06
- 印度 AI 训练营争议:医生吐槽"entropy/span"营销话术引发论战 — kingslyj · 2026-11-06
- Yacine 趣谈:路人用手机就能跑掉一个数据中心级训练任务 — yacineMTB · 2026-11-06
- 取消 Google Workspace 反享 70% 折扣，网友实测留存套路 — kingslyj · 2026-11-06
- Yacine 玩梗：若早生一年，Schmidhuber 的成果全归我 — yacineMTB · 2026-11-06
- 耗时 13 年花费 1 万美元，Reddit 用户发布 69 分钟哥特推理动画试片 — thelastdreamcaravan · 2026-11-06