LLM 论文发现「疼痛表征」引热议，学者警告：表征疼痛不等于感到疼痛
ValerioCapraro · x · 2026-09-21
一篇新论文通过一系列实验在 LLM 中识别出与疼痛相关的内部表征，并显示操纵这些表征会改变模型行为：例如某些微调过的模型在操纵被移除后，选择「缓解」按钮的频率会下降。论文被 AI 权利与道德地位倡导者广泛传播。
Valerio Capraro 对此提出明确澄清：
- 作者本人承认实验并未确立模型具有意识体验，结果可能只是角色扮演
- 内部表征和行为的相似，不等于主观体验的相似——一个系统可以表征疼痛而不「感到」疼痛，就像可以模拟下雨而不被淋湿
- 不应把表面相似性混同于深层相似性
这篇帖子是对「AI 是否值得道德关怀」讨论潮的一次冷静纠偏：实验结果有趣且有研究价值，但远不足以推出 LLM 有感受能力的结论。
所属事件:LLM「疼痛向量」论文走红后被误读，作者与意识学者集中澄清(19 条相关)→
「安全」频道最新
- ECIR 2027 设 SAFE-SEARCH 研讨会，聚焦对话式搜索安全，1 月 15 日截稿 — HamedZamani · 2026-11-12
- Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源 — ben_j_todd · 2026-11-12
- 观点争锋：AI 失控与权力集中风险主要藏在企业内部部署的模型里 — ben_j_todd · 2026-11-12
- 数据中心的账：支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12
- Scale AI 论文：374 次攻击中 36% 成功，模型可在自训练迭代中暗中搞破坏 — Miles_Brundage · 2026-11-12
- 审计发现：LLM 医学伦理决策近乎确定，系统性低估患者自主权 — zakkohane · 2026-11-12