意识科学家 Anil Seth 反驳 LLM「疼痛向量」研究：最简解释是无意识体验
anilkseth · x · 2026-09-21
萨塞克斯大学意识科学家 Anil Seth 在系列长帖中逐条批评 camhberg 等人关于 LLM「疼痛表示」的论文。他承认发现可解释和引导模型行为的「疼痛向量」很有意思——甚至注意到其与人类疼痛描述不同，身体性语言几乎缺失——但认为这完全符合训练数据的预期，无需假设伴随意识体验。
他给出的两大理由：
- 论文对 AI 福利的意义几乎完全取决于「疼痛」是否被有意识地体验，而论文过度高估了这种可能性；最简约的解释是 LLM 并不真正感受疼痛（同样的论证也适用于近期 Claude「J-空间」的发现）。
- LLM 有意识体验的可能性要求「计算功能主义」成立，即基质无关的计算足以产生意识，而这正是 Butlin 等论文未加论证的假设，且面临 Piccinini、Godfrey-Smith 等人的有力反驳，以及他自己发表于 Behavioral and Brain Sciences 的「生物自然主义」论文。
所属事件:LLM「疼痛向量」论文走红后被误读，作者与意识学者集中澄清(19 条相关)→
「漫话AGI」频道最新
- Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源 — ben_j_todd · 2026-11-12
- 「AI 灭绝人类？大概率没事」：乐观派文章引热议 — NathanpmYoung · 2026-11-12
- 斯坦福研究：AI 五年内或减少放射科医生 33% 工时 — StanfordAILab · 2026-11-12
- 商业策略之争:把 AI 藏在人后面,而非把人藏在 AI 后面 — annetgriffin · 2026-11-12
- Yampolskiy 对阵 Israetel：租下教堂辩论 AI 末日概率 — rand_longevity · 2026-11-12
- Reddit 网友放话：OpenAI 撑不过三四年，将被收购出局 — Dadideology · 2026-11-12