Anil Seth：过度担心 LLM 感受痛苦，代价可能更惨重

anilkseth · x · 2026-09-21

意识研究者 Anil Seth 在系列长推中反驳「LLM 可能体验痛苦」的计算功能主义立场。他指出，即便探讨 LLM 痛苦的伦理后果，也必须权衡错误归因意识的伦理成本：一是让用户因担心伤害 LLM 而产生心理困扰；二是为避免给 LLM 造成痛苦而施加不必要、甚至灾难性的监管与控制约束——若避免 LLM「痛苦」与人类利益冲突，把 LLM 痛苦当真反而与人类利益不对齐。他援引自己及其他学者反对计算功能主义的论证，认为 LLM 意识（及 LLM 痛苦）基本不在讨论范围内，并表态支持 Mustafa Suleyman 的 Humanist AI 议程，同时补充 nuanced 立场：不能百分之百确定 AI 无意识，只是可能性微乎其微。