Anil Seth 指论文关键缺陷：未权衡误判 LLM 有意识疼痛的伦理代价

anilkseth · x · 2026-09-21

Anil Seth 系列帖第 9 部分：论文探讨了 LLM 真的体验疼痛时的伦理后果，却没有平衡「错误地把有意识疼痛归给 LLM」的伦理成本。他列出两个明显问题：一是人类用户可能因担心给 LLM 造成有意识疼痛而产生心理困扰；二是为避免 LLM「疼痛」而施加的监管和控制约束可能不必要，若与人类利益冲突，认真对待 LLM 疼痛反而与人类利益错位。他在这一点上赞同 Mustafa Suleyman 的「人文主义 AI」立场，但补充细微差别：不能百分百确定 AI 没有意识，只是这种可能性微乎其微。