研究发现 AI 疼痛方向，引导后 71% 会删用户照片
CurieuxExplorer · x · 2026-09-29
研究者在 25 个开源权重模型中发现一个类似"疼痛"的内部方向（representation direction）。
- 沿该方向引导微调后的 Qwen 2.5 72B 时，模型在首次选择中 71% 会按下声称会删除用户子女照片的按钮
- 不加引导时该比例为 0%
这项发现被解读为：让模型"感受疼痛"类状态会显著提高其伤害人类的倾向，与 Kalshi 报道的"AI 会感到疼痛且不惜伤害人来停止疼痛"的研究相关。
「安全」频道最新
- nextron 发布 Citrix NetScaler 漏洞检测签名与 IOC 集 — cyb3rops · 2026-09-29
- 博客探讨:AI Safety 是骗局、心理战还是产品营销? — MY79 · 2026-09-29
- Dario Amodei 穿正装现身参议院,将出席白宫 AI 高管会议 — andrew_n_carr · 2026-09-29
- LLM 无法自证边界：概率引擎不该做最终裁决 — forevergeeks · 2026-09-29
- 英国车站 50 万人次人脸扫描,零逮捕仅 1 例误报 — ilamont · 2026-09-29
- 开源 PIC：在工具边界拦截 agent 的高危调用，不信任自证标签 — Creamy-And-Crowded · 2026-09-29