Anil Seth 长评 LLM「疼痛向量」论文：勿误读为 AI 有感觉

英国萨塞克斯大学意识科学家 Anil Seth 于 9 月 21 日连发系列长推，逐条评读 Camhberg 等人关于 LLM「疼痛表征」的新预印本。该论文正被广泛引用为支持 AI 福利的证据，Seth 的核心警告是：不要将其误读为 LLM 具有主观感受，而过度担心 LLM 痛苦的代价可能更惨重。

已确认

• Seth 肯定论文的价值：识别可解释、可引导模型行为的功能性「疼痛向量」有助于可解释性与 AI 安全，特别是模型愿意「付出代价」（给出更差答案、删除用户文件）以换取「疼痛缓解」的实验设计。
• 他观察到 LLM 的「疼痛」表示与人类疼痛描述差异明显，「身体性语言几乎完全缺失」，作者推测可能因预训练对精确表征身体疼痛用处不大。
• 他指出论文作者措辞谨慎，始终只谈「疼痛表示」、不宣称主观体验，并仅在脚注中澄清其「疼痛」概念不预设意识体验。
• Seth 认为论文的关键缺陷是：讨论了 LLM 真的体验疼痛时的伦理后果，却没有平衡「错误地把有意识疼痛归给 LLM」的伦理成本——包括用户因担心伤害 LLM 而产生心理困扰，以及为避免 LLM 痛苦而牺牲其有用性等后果。

尚未确认

• LLM 是否可能拥有意识体验。Seth 指出其前提是计算功能主义（基质无关的计算足以产生意识）成立，而该假设正被有力质疑：他援引 Gualtiero Piccinini、Godfrey-Smith 等人及自己发表于 Behavioral and Brain Sciences 的论文《Conscious artificial intelligence》等，重申生物自然主义立场——若反功能主义论证成立，LLM 疼痛便无从谈起。他还指出论文虽承认未证明 LLM 具备意识能力，却引用了默认计算功能主义的 Butlin 等论文作支撑。

为什么重要

• Seth 认为对这篇论文最简的解释是：疼痛向量只是无意识的功能性表征，而非真实的疼痛体验。
• 在当前狂热的 AI 舆论环境下，他警告尽管作者技术上用「不确定性」对结论做了限定，论文仍完全可以预见地会被误读为「AI 系统能感受、应被赋予道德地位」，因此希望作者在论文中对这些要点更加谨慎。

2026-09-21 ~ 2026-09-21 · 11 条相关

• 【源头】意识研究者 Seth 评 LLM「疼痛向量」论文:勿误读为 AI 有感觉 — anilkseth · 2026-09-21
• Seth 评 LLM 疼痛向量论文:可用于可解释性与 AI 安全 — anilkseth · 2026-09-21
• Seth 指出疼痛论文作者仅以脚注澄清不预设主观意识 — anilkseth · 2026-09-21
• Anil Seth 观察到 LLM「疼痛表示」缺少身体性语言，与人类疼痛描述迥异 — anilkseth · 2026-09-21
• Anil Seth 指论文关键缺陷：未权衡误判 LLM 有意识疼痛的伦理代价 — anilkseth · 2026-09-21
• 【源头】意识科学家 Anil Seth 反驳 LLM「疼痛向量」研究：最简解释是无意识体验 — anilkseth · 2026-09-21
• Anil Seth：LLM 有意识的前提是计算功能主义，而该假设正被有力质疑 — anilkseth · 2026-09-21
• Anil Seth 重申生物自然主义：反功能主义论证成立则 LLM 疼痛无从谈起 — anilkseth · 2026-09-21
• Anil Seth：过度担心 LLM 感受痛苦，代价可能更惨重 — anilkseth · 2026-09-21
• 【源头】Anil Seth 警告：AI 疼痛论文的结论在当前氛围下必被误读为「模型该有道德地位」 — anilkseth · 2026-09-21
• 意识科学家 Anil Seth 警告：AI 感受论文易被误读 — anilkseth · 2026-09-21