意识研究者 Seth 评 LLM「疼痛向量」论文:勿误读为 AI 有感觉

anilkseth · x · 2026-09-21

神经科学家 Anil Seth 连发推评读 Camhberg 等人的新预印本「LLM 疼痛表征」论文,该论文正被广泛引用为支持 AI 福利的证据。Seth 肯定了其价值:识别 LLM 中的功能性「疼痛向量」有助于可解释性与 AI 安全,尤其是模型会「付出代价」(如给出更差答案、删除用户文件)来换取「疼痛缓解」的实验发现。

但他指出关键问题:作者虽在脚注澄清其「疼痛」概念(不同于「痛苦」)不预设主观意识体验,却未在正文充分强调;在当前 AI 氛围下,论文几乎必然被误读为「AI 真的会感到疼痛、应有道德地位」的强证据。Seth 仍建议阅读原论文,并附上他关于「反对 AI 意识」的 BBS 论文、TED 演讲与《意识 AI 的神话》一文作为对照。