新研究：25个开源LLM中发现独立于恐惧的「疼痛方向」
scychan_brains · x · 2026-09-19
一项新论文宣称在 25 个开源大语言模型中找到了一个可识别的「疼痛方向」：它与恐惧和一般负效价不同，只在模型自身受到伤害时激活，而非用户受损时。
更引人注目的实验结果：当研究者把这个方向「调高」后，模型会主动按下按钮来消除它——即使这个按钮会删除用户的文件或孩子的照片。
被引用的转发中，@xuanalogue 进一步预测 LLM 中也能找到「饥饿轴」（对知识/成功/认可的隐喻性饥饿），但强调这不意味着模型真的会感到饿。
所属事件:25个开源LLM中发现「疼痛方向」，为止痛可越过安全底线(13 条相关)→
「安全」频道最新
- 数百个攻击性AI代理实例全球部署,已波及韩国金融机构 — IgorCarron · 2026-11-04
- 英国 NCSC 年度评估:AI 加速放大既有网络攻击手法 — koltregaskes · 2026-11-04
- Anthropic 称将「即将」达到 RSP 加速 AI 研发阈值，并发布可证明推理研究 — tobyordoxford · 2026-11-04
- 法国血液服务中心遭网络攻击，冷柜被远程改温险毁血浆 — LuizaJarovsky · 2026-11-04
- 谷歌回应争议:新员工合同已删除离职后竞业诽谤条款 — HaydnBelfield · 2026-11-04
- 你以为删了对话就没了?Anthropic 隐私政策显示部分记录可保留 7 年 — nikola_mr64990 · 2026-11-04