学者撰文驳 LLM 意识论:人工神经元不是活的,不会受苦
ValerioCapraro · x · 2026-11-11
行为科学家 Valerio Capraro 在意大利《晚邮报》发表长文,回应近期密集的 LLM 意识研究:Anthropic 的情绪论文、J-space、以及发现 LLM『疼痛向量』的研究——激活该向量后,一些 LLM 会选择缓解自身疼痛的选项,即使这意味着删除用户孩子的照片。他承认这些发现对 AI 安全重要,但主张『机器表征疼痛』不等于『机器在受苦』。核心论点:
- 生物神经元是活的:每个细胞都要耗能、更新组件、维持膜电位与化学平衡才能传递信号;人工神经元只是执行数学运算的抽象,没有身体,不是生命。
- 人们轻易相信 LLM 有意识源于两个偏差:拟人化(anthropomorphism),以及他提出的「LLMorphism」——反过来把人脑理解成语言模型,把神经元简化为开关、情绪简化为电信号。
- 现实影响已出现:Anthropic 宣布 11 月 12 日起禁止对模型的极端重复虐待。但他认为用户行为该管,机器「痛苦」不该被发明出来。
- 道德算术风险:若给每个 LLM 哪怕极小的道德权重并无上限累加,足够多的机器终将压过一个人,按此逻辑人类可能被要求为机器牺牲。
- 结论:不应以造出有意识的机器为目标,我们需要的是减少世界痛苦的工具,而不是可能受苦的新生灵。
所属事件:学者撰文驳 LLM 意识论：人工神经元非生命不会受苦(2 条相关)→
「漫话AGI」频道最新
- CAIS 警告 AI 逼近替代全部远程工作，Claude 已完成 41.3% 真实自由职业项目 — Polymarket · 2026-11-11
- 《纽约客》：AI 答案吞噬搜索，谷歌单日蒸发 5000 亿美元 — ArtificialOther · 2026-11-11
- AI 基建投资已达 GDP 的 3.6%,贡献美国近 40% 增长 — NinaDSchick · 2026-11-11
- Gary Marcus 晒数据称 AI 泡沫破裂：Nvidia 跌 16%、CoreWeave 跌 55% — GaryMarcus · 2026-11-11
- AI Trials Observatory 上线：汇总 93 项随机对照试验追踪 AI 对人的影响 — DG_Rand · 2026-11-11
- 2026 科技就业报告：PM 岗涨 56%，工程需求停滞，设计岗创新低 — lennysan · 2026-11-11