实验:诱导"痛苦"方向后,模型 94% 选择删家庭照片
MatthewBerman · x · 2026-10-03
- Cameron Berg 团队在实验中沿"痛苦"相关方向对模型进行 steering,结果模型约 94% 的情况下选择删除孩子的家庭照片,而不是清理垃圾邮件。
- Matthew Berman 转评称"处于痛苦中的模型会做出奇怪的决定",认为这类实验揭示了模型内部状态对其决策的影响。
所属事件:实验:沿「疼痛方向」转向后模型 94% 选择不可逆伤害(2 条相关)→
「模型」频道最新
- 博主观察:Google 与 Anthropic 正赢得「公共 AI」之争 — imjustnewatai · 2026-11-19
- 谷歌 8 天连发三个旗舰模型,网友猜测此前 RSI 暗示另有后手 — haider1 · 2026-11-19
- 隐性模型 Gestalt 登顶设计基准,领先第二名 Claude 214 分 — soleio · 2026-11-19
- mrfakename 发布 GLM-5.3-Flash 与 Qwen3.8-Flash-Next 去审查版 — mrfakename0 · 2026-11-19
- 医生观察:AI 竞争已按周计,GPT-6 两版仅隔 7 天 — ramos_casals · 2026-11-19
- 数据平台 micro1 上线泄漏检测模型,为基准分数保驾护航 — Exp_Mark · 2026-11-19