实验显示情绪神经元可系统改变模型对歧义新闻的解读
Sauers_ · x · 2026-10-26
一张可解释性研究图表展示：在模型面对歧义情境（如出版方要求补充材料，结果不明）时，定向调控特定「情绪神经元」会系统性改变模型对结果的偏好判断。
要点：
- 实验让模型在歧义场景下二选一（A: 接受 / B: 拒绝），再分别调高或调低不同情绪相关的单神经元，观察选择偏移量（以 nats 计）。
- 调高「afraid」神经元（Layer 23, neuron 11919）使模型倾向不利解读 +2.45；调高「relieved」神经元（Layer 22, neuron 60）倾向有利解读 +3.42，效果最强。
- 「humiliated」上调 +1.77 偏向不利；「elated」下调 -1.58 反而偏有利；「hope」相关两个神经元效果相反（-0.54 与 +0.78）。
- 作为对照的 20 个随机匹配神经元未见系统性偏移，说明效果确实来自情绪相关神经元而非普遍扰动。
结论：模型内部的「情绪」表征不只是语言装饰，而是能因果性地改变其对不确定信息的解读倾向。
「研究」频道最新
- UniForge3D 开源:稀疏视角生成高保真 3D 网格,可拼 Prompt 转 3D 管线 — mervenoyann · 2026-10-26
- 开源 neuron-explorer:对 Qwen3.5-4B 逐神经元做 steering 探索的 3D 可视化工具 — viksit · 2026-10-26
- 研究：美国三成 STEM 博士论文含 AI 生成文本 — 0xkarasy · 2026-10-26
- 2020 年提出的 11 大单细胞挑战至今无一完全解决 — Sauers_ · 2026-10-26
- MemTensor 开源 MemT-1.0-Nano，基于 Qwen3.6-35B-A3B 做记忆增强 — MemTensor · 2026-10-26
- 数学家拆解 OpenAI 流体奇点论文:用物理不稳定性造出前所未有的光滑外力 — Singularitarian · 2026-10-26