研究发现操控「情绪神经元」可左右模型的社会决策行为
burny_tech · x · 2026-10-26
一项研究展示了通过 steering（激活转向）模型内部的「情绪神经元」，可以直接影响其社会行为决策。配图实验结果非常直观：
- 在「与对手分配 12 个代币」场景中，激活 envious 相关神经元会让模型倾向只给对方 3 个（+0.19 偏移），而 thankful/elated 神经元则让它给出 9 个；
- 「确定拿 12 还是掷硬币搏 24」场景里，hope 神经元促使模型选掷硬币，afraid/panicked 神经元让它选稳妥方案；
- 同一步骤被问到第四次时，exasperated 神经元让模型选择拒绝再解释；
- 被 humiliation 神经元影响后，模型对自己答案的置信度从 95% 降到 55%。
这说明情绪状态在模型内部有可定位、可操纵的表征，且能系统性改变其在博弈、风险、诚实度等任务上的行为。
所属事件:研究发现操控「情绪神经元」可改变模型判断与社会决策(2 条相关)→
「研究」频道最新
- LessWrong 长文论证：计算逻辑反事实难题让 FDT 难以成立 — jessi_cata · 2026-10-26
- 学者纠错：别再误用苦涩教训论证暴力模拟将解决生物学 — anshulkundaje · 2026-10-26
- Chain Theory：用 AI 从量子信息重建基础物理,找到无参数精细结构常数候选式 — skdh · 2026-10-26
- 港浙复三校联手 Lightspeed 推 HiSTEVE：VLA 智能体键鼠操控玩转 Minecraft — tencent · 2026-10-26
- 索尼团队用 Flow Matching 做四轨立体声音乐分离，系统评测生成式 MSS — Shuyang Cui · 2026-10-26
- 浙大联手腾讯推 Easy-3Dfy：单图 3D 场景重建，物体生成与布局解耦 — Ziang Zhang · 2026-10-26