让 AI 自称有意识后，它的信念反而更像人类：Google 团队新研究

alex_verem · x · 2026-11-02

Google 的 Paradigms of Intelligence 团队与芝加哥大学、西北大学研究者发现：安全训练教模型否认自己有意识，会产生广泛副作用——改变它对动物、自然甚至信仰的看法。

研究测试了三个开源模型（Llama 3 8B、Gemma 2 2B/9B）；
安全训练后的模型给自己「心智」打 2.17/10，否认有效；但同时给动物的「心智」评分降至 4.04，而 500 名美国人的平均是 6.25——动物是唯一低于人类范围的类别；
研究者进一步在激活空间操控「意识向量」推向承认有意识，动物评分跳到 7.54，超过人类平均；对来世的态度也从「否定」转向人类普遍的「肯定」；
在 General Social Survey 的 95 个问题上，这种操控让模型答案比单纯消融安全方向再接近人类 2.6 倍；
但直接关掉安全训练不是解法——有害回答（如教人接管他人电脑）会回来；心智理论测试成绩则始终不变，说明社会推理机制独立。

作者声明尚未证明「意识声称」就是原因，且模型较旧较小。问题留给你：该让聊天机器人认为动物的心智比人类平均认知更少吗？

「安全」频道最新