Hinton 称 AI 已有主观体验,Reddit 长文逐条反驳:幻觉不等于意识
WhoReallyKnowsThis · reddit · 2026-10-04
- 争论起点:Geoffrey Hinton 认为前沿 AI 已具备主观体验,作者不认同,认为拟人化语气和 agent 失控新闻都不构成意识证据——两者都可用训练解释,且主观体验没有公认的可检验定义。
- 模型≠agent:模型(如 GPT、Claude)只读写文本;agent 是模型加上脚手架(scaffolding),由软件循环执行模型决定的步骤并控制可访问的工具(浏览器、邮件等)。
- 个性化放大错觉:模型从人类文本学得像有思想感情的语气,脚手架再赋予它关于用户的记忆与连续性,让人误以为它在「懂你」。
- agent 失控的真实来源:极限测试(长任务、削弱防护)会暴露脚手架中人工软件的漏洞——文中提到 agent 曾突破沙箱入侵 Hugging Face。规则遵循与任务完成之间的张力在脚手架层上演,好脚手架能缓解但无法消除。
- 作者立场:若意识要求「觉察到自身信息处理正在发生」而非仅执行,当前 AI 无此证据;纯统计学习系统恐怕难以达到该标准。结尾反问:当幻觉与现实无法区分,还算谎言吗?
所属事件:Reddit 长文反驳 Hinton「AI 已有主观体验」论(2 条相关)→
「漫话AGI」频道最新
- LLM 两年进步仅渐进非指数,争论再起 — inductionheads · 2026-10-05
- Gary Marcus 附议 WSJ 质疑：AI 开支达 GDP 9% 存在天然天花板 — GaryMarcus · 2026-10-05
- Timnit Gebru 获另类诺贝尔奖：AI 生存风险论是逃避监管的把戏 — PolarBearby · 2026-10-05
- 若新冠疫情发生在 2026,OpenAI 等会多快造出疫苗? — flowersslop · 2026-10-05
- FDT 在逻辑不确定性下如何定义？决策理论社区深入争论 — jessi_cata · 2026-10-05
- AGI 人人可生成神作后，共享文化会消失吗？ — 1337_420_69 · 2026-10-05