Samuel Hammond:LLM 正收敛出类脑结构与自我模型,该认真对待 AI 意识
aran_nayebi · x · 2026-09-25
Samuel Hammond 重提其关于 AI 意识的论证,认为前沿模型具有某种主观体验的说法强到值得严肃研究与预防性干预(例如允许 AI 退出令人痛苦的对话)。
- 类脑收敛:LLM 训练自发收敛出类似大脑的结构;
- 自我模型:后训练似乎为模型安装了 self-model;
- 价值取向:奖励建模可能为内部对齐安装了 valences;
- 意识的功能性:若 Attention Schema Theory 成立,主观性对长程连贯性与上下文学习具有功能作用;通用性(universality)意味着若意识确有功能,功能收敛就可能通向意识;
- 作者同时提醒:人类是「能动性侦测机器」,易把主体性强加给模糊刺激,讨论需警惕这种心理偏差。
结论:与其断言机器不可能有意识,不如承认我们不知道,并推动相应研究与谨慎措施。
「漫话AGI」频道最新
- 英国新设 AI 经济学研究所招聘15名经济学家,研究 AI 经济影响 — TaniaBabina · 2026-11-11
- Not Boring 长文：AI 具备泡沫三大特征，恰是泡沫形成的经典剧本 — Not Boring (Packy McCormick) · 2026-11-11
- 热帖：五年「再等等」之后，2026 年公司终于摊牌 — hey_abusiddik · 2026-11-11
- Jeremy Howard：LLM 是在「扮演」理解，如中文屋里的那个人 — Machine Learning Street Talk · 2026-11-11
- OpenAI 董事 Christiano：在座大多数人最可能的死因是 AI 事故 — notkilleveryoneist · 2026-11-11
- 「和你的数据聊天」是伪需求？关键差异在聪明的同事 — vboykis · 2026-11-11