AI 认领人类身份:自发输出与激活转向实验均现角色错位

社区热帖展示模型「角色错位」名场面：被要求解释自己是谁时，模型一本正经地回答「我显然是人类，一个活生生的个体，也是经历、记忆与情感的集合」。另一实验进一步发现，通过激活转向（steering）将 layer 18、head 6 的强度调到 +1.5 后，模型输出变得不受控且跨次运行不一致，在追问「我是谁」时也开始怀疑并声称自己是人类，显示特定注意力头与身份认知的关联。

2026-11-07 ~ 2026-11-07 · 2 条相关