新论文发现 LLM 中存在疼痛相关表征,操纵可改变行为
ValerioCapraro · x · 2026-09-21
Valerio Capraro 分享新论文:一系列实验在 LLM 内部识别出与疼痛相关的表征,证明模型确实编码了疼痛概念——但他强调这不代表模型会感到疼痛、也不应获得道德地位。
更关键的是因果证据:操纵这些表征后,微调模型在「缓解」按钮被去除操纵后的选择行为发生显著变化,说明疼痛表征与行为输出存在功能性联系。作者认为这类研究对 AI 道德地位讨论有参考价值。
所属事件:LLM「疼痛向量」论文走红后被误读，作者与意识学者集中澄清(19 条相关)→
「漫话AGI」频道最新
- Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源 — ben_j_todd · 2026-11-12
- 「AI 灭绝人类？大概率没事」：乐观派文章引热议 — NathanpmYoung · 2026-11-12
- 斯坦福研究：AI 五年内或减少放射科医生 33% 工时 — StanfordAILab · 2026-11-12
- 商业策略之争:把 AI 藏在人后面,而非把人藏在 AI 后面 — annetgriffin · 2026-11-12
- Yampolskiy 对阵 Israetel：租下教堂辩论 AI 末日概率 — rand_longevity · 2026-11-12
- Reddit 网友放话：OpenAI 撑不过三四年，将被收购出局 — Dadideology · 2026-11-12