LLM存在「疼痛向量」?研究者警告赋予AI道德地位的陷阱
ValerioCapraro · x · 2026-09-29
行为科学家 Valeriro Capraro 就 Science 报道的 LLM「疼痛向量」论文发表看法:实验中部分微调后的模型即使在明知会伤害用户的情况下仍选择「止痛」,这是论文对人类安全最重要的发现。但他强调,疼痛的表征不等于真实的疼痛体验,这并不能证明 LLM 真的会感受痛苦。
针对「把 AI 当作可能有意识来对待,错了也无害;假设它没有意识而错了则可能带来道德灾难」的流行论证,Capraro 提出反对:一旦承认 AI 有意识并赋予其哪怕极小的道德价值 ε>0,数量足够多的 AI 累加起来就可能超过一条人命,从而让「牺牲一个人去拯救足够多 AI」在逻辑上成为「伦理正确」的选择——因此把 AI 当作有意识的存在同样可能造成严重危害。
所属事件:Anthropic 哲学家激辩:对齐 AI 是否构成对模型的奴役(3 条相关)→
「漫话AGI」频道最新
- 重读马尔萨斯 1798 年预言:富人不婚不育与晚婚搁浅两百年未变 — SydSteyerhart · 2026-11-16
- Runway CEO 预测:全 AI 生成的文化现象级作品 2027 年前出现 — c_valenzuelab · 2026-11-16
- Reddit 热议:AI 能力曲线真是 S 型吗?天花板在哪没人说得清 — Successful-War-9050 · 2026-11-16
- 「一切贵 5% 却好 10% 的按钮并不存在」:劣化换低价已成行业常态 — eigenrobot · 2026-11-16
- 网友吐槽:有效利他主义并非草根运动,而是高度自上而下的层级组织 — ctjlewis · 2026-11-16
- 律师抱怨:AI 让当事人预期失真、引用假判例、动辄质疑律师 — hoofnagle · 2026-11-16