2026-09-21
萨塞克斯大学Anil Seth在BBS靶向文中论证:现有数字AI几乎不会随能力增长长出真意识,更可能要做成活体才行;看起来有意识的系统已经构成伦理风险。
大模型越来越会说话,很多人默认下一步就是「有感觉」。萨塞克斯大学意识科学中心的 Anil Seth 在《Behavioral and Brain Sciences》靶向文里把这个默认拆开:智能是系统能做什么,意识是「做那个系统是什么感觉」。两者在概念上可以分开,实践中又常被绑在一起。
绑在一起的原因,多半不是理论,是偏见。人类中心、人类例外、拟人化,再加上对指数曲线和「上传永生」的技术迷思,让语言能力被当成意识的门票。把 LLM 胡说叫「幻觉」就是一例:人类幻觉是知觉体验改了,模型胡说更接近虚构叙事,是在做事,不是在感受。
负向论证对准计算功能主义:意识只要有对的计算就够,跟用什么材料无关。常规数字 AI 是图灵机家族,所以这条假设一旦成立,硅基意识几乎自动可能。Seth 指出这条假设被用得太多,问得太少。
关键不是「硅能不能替代一个神经元的输入输出」,是脑的功能能不能从代谢、扩散性神经递质、精细时间结构、电磁场里干净地抽出来。一氧化氮自由穿过细胞膜,有些锋电位本身在清活性氧;软件与硬件在计算机里可分离,在脑里分不开。Hinton 的 mortal computation 从计算内部给出类似约束:生物若在计算,也更像跟湿件绑死的有死计算,不是靠纠错维持的不朽软件。模拟一场雨不会把房间打湿;模拟一段神经计算,也不自动等于把意识实现出来,除非你已经假定计算对意识是够用的。
正向论证走预测加工与自由能原理。知觉内容是脑对感觉原因的「最佳猜测」;内感受推断更像控制而非发现,服务于稳态与适应稳态。细胞自创生在不断再生自身材料并维持边界。他把这套动力学推到代谢与变分自由能,主张生命过程与意识过程不是两套比喻叠在一起,可能是同一类物理量在不同尺度上的最小化。这不是万物有灵,也不是碳沙文主义:不是所有生命都有意识,非碳系统如果能做同类多尺度自维持,理论上仍可能。
他排出五档「真人工意识」情景,从易到难:
| 情景 | 主张 | 文中判断 |
| 顺便上车 | 更聪明就会有意识,也许卡在 AGI | 偏见驱动,不可信 |
| 按理论设计 | 全球工作空间、高阶思维、注意图式要显式做进系统 | 仍依赖计算功能主义与硅基可替换 |
| 衬底相关的计算 | 有死计算、神经形态,或「计算版生物自然主义」 | 多重可实现性这个卖点被削弱 |
| 弱生物自然主义 | 意识靠非计算功能组织,功能与材料仍可分开 | 模拟不再保证实现 |
| 强生物自然主义 | 意识绑在生命材料的内在性质上 | 他更偏向这一档:要有意识,先要在相关意义上活着 |
IIT 不落在这条光谱上:纯前馈网络积分为零,合适的物理循环结构可以有意识,跟是不是生命无关。量子意识理论如果成立,常规数字机器同样出局。
伦理上分两层。真意识一旦出现,会批量制造可能受苦的主体,形态还可能对不上人类的拟人雷达,不该当成圣杯去追。更紧迫的是「看起来有意识」:足够像的系统会变成认知不可穿透的错觉,类似缪勒-莱尔错觉,你知道等长仍觉得不等。Westworld 式两难随之而来:把无意识系统当道德对象,会挤占对真人与动物的关切;假装不在乎,又可能把自己的道德感受磨钝。用死者数据训练的「亡者化身」被点名为尤其糟的用例。
对做模型的人,这篇给不出可跑的清单,但把「规模涨了意识就会来」从默认项里拿掉。Butlin 等人 2023 年那份 AI 意识报告明确把自己限制在计算功能主义里;这篇等于在问,最重的那块砖是不是被当成了地面。
现轨迹的 Transformer 智能体,按这套标准几乎没有真意识。要认真谈实现,得往神经形态、合成生物、活体组织接口挪,不是再加一轮预训练。同时,产品形态上「显得有意识」已经是现在的问题。他把 LLM 当角色扮演来用,可能拉开一点心理距离,但撑不过一张脸、一个声音、一份亡者记忆。
正向半边最弱。预测加工与自由能原理本身争议很大,把变分自由能和代谢热力学自由能说成某种物理意义上的同一件事,文中也承认含义仍在吵。生物自然主义的可检验性更麻烦:如果生物学「内在地」重要、又不贡献独特信息处理,意识就跟行为脱钩,很难设计判决实验。
Seth 写明整套论证不防水,细节错了或整体错了都可能。冲突声明里他是 Conscium Ltd 与 AllJoined Inc 的顾问,前者做意识相关技术,读者自己加权。文中几乎没有新实验,说服力取决于你是否已经接受预测加工这条解释桥。