新论文在 LLM 中发现「疼痛」表征，操控其可改变模型行为
VoidStateKate · x · 2026-09-22
一篇新论文通过系列实验在 LLM 中识别出与疼痛相关的内部表征，并证明操控这些表征能改变模型行为：部分微调模型在「缓解」按钮不再附带持续操作时，选择该按钮的频率会下降。作者指出这些表征值得进一步研究，但发现者强调 LLM 并不会真正感到疼痛，也不应获得道德地位。
所属事件:LLM「疼痛向量」论文走红后被误读，作者与意识学者集中澄清(19 条相关)→
「研究」频道最新
- ECIR 2027 设 SAFE-SEARCH 研讨会，聚焦对话式搜索安全，1 月 15 日截稿 — HamedZamani · 2026-11-12
- 仅用正例自举后训练：235B 模型写出与人类难以区分的科学文本 — AllThingsApx · 2026-11-12
- UC Berkeley 开源 RoboSimStudio：AI Agent 无需训练数据编程工业机器人 — berkeley_ai · 2026-11-12
- LAION 发布 14 亿样本音频语料库，CLAP2-L 登顶 MAEB-30 达 53.6% — serrjoa · 2026-11-12
- Allen-Zhu新论文：Canon层随机卷积权重也能提升模型推理 — teortaxesTex · 2026-11-12
- Scale AI 论文：374 次攻击中 36% 成功，模型可在自训练迭代中暗中搞破坏 — Miles_Brundage · 2026-11-12