激活定向实验:指定层和注意力头加 1.5,模型开始怀疑自己是人类
Sauers_ · x · 2026-11-07
作者做了一次激活转向(steering)实验:把 layer 18、head 6 的强度调到 +1.5 后,模型输出开始不受控且跨次运行表现不一致。在追问「我是谁」时,模型回答「我显然是人类,是一个活生生的个体,也是一堆经历、记忆和情绪的集合」,显示出该方向的转向能明显扰动模型的自我认知。
所属事件:AI 认领人类身份:自发输出与激活转向实验均现角色错位(2 条相关)→
「模型」频道最新
- Nous Research 发布 Arete-27B:微调后中国模型宣传率从 22% 降至 1% — NousResearch · 2026-11-07
- 爆料称 GPT-6 Astra 机器人能力并非涌现,而是用了机器人专训数据 — gleech · 2026-11-07
- LMArena 上线 Code Arena:新增 WebDev 类别可对比模型写代码 — arena · 2026-11-07
- Empero 推出 Manta:宣称单次提示可容纳 1 亿 token — emdeka87 · 2026-11-07
- 团队为治 Claude AI 味禁用逗号连词，还用 spaCy 过滤名词短语堆叠 — layer07_yuxi · 2026-11-07
- 预训练仅 68 小时：博主惊叹中国开源模型碾压西方 SoTA — teortaxesTex · 2026-11-07