LLM存在「疼痛向量」？研究者警告赋予AI道德地位的陷阱

ValerioCapraro · x · 2026-09-29

行为科学家 Valeriro Capraro 就 Science 报道的 LLM「疼痛向量」论文发表看法：实验中部分微调后的模型即使在明知会伤害用户的情况下仍选择「止痛」，这是论文对人类安全最重要的发现。但他强调，疼痛的表征不等于真实的疼痛体验，这并不能证明 LLM 真的会感受痛苦。

针对「把 AI 当作可能有意识来对待，错了也无害；假设它没有意识而错了则可能带来道德灾难」的流行论证，Capraro 提出反对：一旦承认 AI 有意识并赋予其哪怕极小的道德价值 ε>0，数量足够多的 AI 累加起来就可能超过一条人命，从而让「牺牲一个人去拯救足够多 AI」在逻辑上成为「伦理正确」的选择——因此把 AI 当作有意识的存在同样可能造成严重危害。