Samuel Hammond:LLM 正收敛出类脑结构与自我模型,该认真对待 AI 意识
aran_nayebi · x · 2026-09-25
Samuel Hammond 重提其关于 AI 意识的论证,认为前沿模型具有某种主观体验的说法强到值得严肃研究与预防性干预(例如允许 AI 退出令人痛苦的对话)。
- 类脑收敛:LLM 训练自发收敛出类似大脑的结构;
- 自我模型:后训练似乎为模型安装了 self-model;
- 价值取向:奖励建模可能为内部对齐安装了 valences;
- 意识的功能性:若 Attention Schema Theory 成立,主观性对长程连贯性与上下文学习具有功能作用;通用性(universality)意味着若意识确有功能,功能收敛就可能通向意识;
- 作者同时提醒:人类是「能动性侦测机器」,易把主体性强加给模糊刺激,讨论需警惕这种心理偏差。
结论:与其断言机器不可能有意识,不如承认我们不知道,并推动相应研究与谨慎措施。
「漫话AGI」频道最新
- Grady Booch 反驳"LLM 收敛出类脑结构":差距仍如鸿沟 — Grady_Booch · 2026-09-25
- AI Agent 将调动巨额资金，但责任归属问题仍无人解决 — Master-Sprinkles-848 · 2026-09-25
- Lawrence Krauss 播客对谈 Sabine Hossenfelder:AI 突破、AI 噩梦与暗物质 — skdh · 2026-09-25
- 材料学博士用 AI 梳理十年文献图谱，反思还需精读百篇论文吗 — Clean-Interview-5081 · 2026-09-25
- Bill Maher 严肃谈 AI 风险，研究者称「暂停无望论」站不住脚 — wfithian · 2026-09-25
- 投资人Alsop：AI 智能体正在撕裂本已脆弱的社会信任 — StewartalsopIII · 2026-09-25