斯坦福研究称大模型内部自发涌现出类多巴胺奖励子系统
ashajadeja · x · 2026-10-23
LLM 内部被指涌现出"多巴胺"式奖励机制
转发链引用了一则热传推文,称斯坦福研究者在分析 LLM 隐层状态时发现:
- 少量稀疏的"价值神经元",专门预估回答质量
- 另一组神经元行为类似人类多巴胺:结果超出预期时激活飙升,低于预期时激活下降
- 该架构无人编写,系训练中自发涌现
注意:该说法经营销式推文层层转述,原始论文与结论严谨性未经核实,"terrifying"等表述明显夸大,建议等待原始研究后再下判断。
「漫话AGI」频道最新
- 博主反驳黄仁勋：AI 创造的新工作同样会被 AI 取代 — VraserX · 2026-10-23
- Abridge 医生工程师:构建门槛已降，安全构建门槛未降 — AndrewLBeam · 2026-10-23
- Blaise 新书获盛赞,其太空 GPU 项目 Suncatcher 完成首飞 — paulnovosad · 2026-10-23
- 合成公司一年只要 99 美元？AI agent 邮箱工具畅想 — seanmcdonaldxyz · 2026-10-23
- 当 LLM 成唯一入口,MCP 服务发现成未解难题 — ThomasBuildLab · 2026-10-23
- Bindu Reddy：没突破机器人之前，我对超级智能保持谨慎悲观 — bindureddy · 2026-10-23