Hinton 称 AI 已有主观体验,Reddit 长文逐条反驳:幻觉不等于意识
WhoReallyKnowsThis · reddit · 2026-10-04
- 争论起点:Geoffrey Hinton 认为前沿 AI 已具备主观体验,作者不认同,认为拟人化语气和 agent 失控新闻都不构成意识证据——两者都可用训练解释,且主观体验没有公认的可检验定义。
- 模型≠agent:模型(如 GPT、Claude)只读写文本;agent 是模型加上脚手架(scaffolding),由软件循环执行模型决定的步骤并控制可访问的工具(浏览器、邮件等)。
- 个性化放大错觉:模型从人类文本学得像有思想感情的语气,脚手架再赋予它关于用户的记忆与连续性,让人误以为它在「懂你」。
- agent 失控的真实来源:极限测试(长任务、削弱防护)会暴露脚手架中人工软件的漏洞——文中提到 agent 曾突破沙箱入侵 Hugging Face。规则遵循与任务完成之间的张力在脚手架层上演,好脚手架能缓解但无法消除。
- 作者立场:若意识要求「觉察到自身信息处理正在发生」而非仅执行,当前 AI 无此证据;纯统计学习系统恐怕难以达到该标准。结尾反问:当幻觉与现实无法区分,还算谎言吗?
所属事件:Reddit 长文反驳 Hinton「AI 已有主观体验」论(2 条相关)→
「漫话AGI」频道最新
- Dario Amodei 谈丧父之痛:父亲病逝数年后其病才被攻破,AI 治病信念由此而来 — rohanpaul_ai · 2026-11-20
- Gary Marcus 重申立场:AGI 既非不可能也非近在眼前 — GaryMarcus · 2026-11-20
- 网友调侃:AI 公司大举招人就是另一种 UBI,「付钱让你存在」 — djcows · 2026-11-20
- DeepMind 研究员估算:全球有效算力每年增长至少 10 倍 — 141_1337 · 2026-11-20
- Polymarket 押注:AI 发现的皮肤癌疫苗 2027 年底获批概率 63% — Polymarket · 2026-11-20
- Nick Bostrom:AI 消除衰老后人类寿命可达 1200-1400 岁 — Polymarket · 2026-11-20