NeurIPS 论文发现 LLM 内有类多巴胺神经元可作过程奖励
denisparra · x · 2026-11-17
James Zou 团队在 #NeurIPS2026 发表论文,发现 LLM 隐状态中存在类似大脑奖励系统的信号组织方式。与以往在全隐藏状态上拟合黑箱探针不同,他们发现奖励信号集中于一小撮神经元:
- 价值神经元:预测当前状态价值
- 多巴胺神经元:编码步级 TD 误差——模型某步表现好于预期时激活,出错时下降
这些神经元可作为内置的过程奖励信号,用于改进推理能力。工作由 Kevin Guowei Xu 与 Mert Yuksekgonul 完成。
所属事件:NeurIPS 论文发现 LLM 内存在类多巴胺神经元可作过程奖励(2 条相关)→
「研究」频道最新
- 数学家吐槽:多篇重要数学论文疑似大量用 AI 却零披露 — gleech · 2026-11-17
- Will Brown 长文:解 SFT、RL 与 on-policy 蒸馏的适用边界 — heghbalz · 2026-11-17
- NVIDIA 开源 cuPotential:分子动力学最高提速约 4 倍 — AllThingsApx · 2026-11-17
- PiPNN 取消图索引构建搜索步,十亿向量建图从数天缩至约千秒 — qdrant_engine · 2026-11-17
- ICML 研究:用高加索阿尔巴尼亚文造反事实,11 个前沿模型不懂编程语义 — jessyjli · 2026-11-17
- Anima Anandkumar 获任 SC26 主题演讲:LLM 之后的下一个 Scaling Law — AnimaAnandkumar · 2026-11-17