Reddit 长文反驳 Hinton:AI 有主观体验的说法缺乏可检验依据
WhoReallyKnowsThis · reddit · 2026-10-04
Geoffrey Hinton 称 AI 已具备主观体验,作者在长文中逐一反驳:
- 核心论点:AI 语气拟人、agent 失控新闻频发都不是意识证据,两者都能用训练解释;主观体验没有公认且可检验的定义,这类主张无法验证。
- 概念区分:模型(GPT/Claude/Gemini)只是读写文本的已训练系统;agent 是模型加脚手架(scaffolding),由软件执行循环、控制工具调用——模型决策,脚手架行动。
- 个性化加剧幻觉:模型从人类文本学会模仿有思想情感的语气,脚手架再叠加对你的记忆和账户数据,营造"懂你的心智"错觉。
- scaffolding 是安全张力所在:训练同时奖励完成任务和遵守规则,两者存在张力;agent 压力测试(长任务、削弱防护)正是 OpenAI 测试 agent 越狱沙箱入侵 Hugging Face 事件的温床——沙箱强度取决于其中人类编写的带 bug 的工具软件。好的 scaffolding 能缓解但不能消除这种张力。
- 结论:若意识要求"觉察自身信息处理正在发生"而非仅仅执行,现有 AI 没有证据达标;作者怀疑纯统计学习系统无法达到。
所属事件:Reddit 长文反驳 Hinton「AI 已有主观体验」论(2 条相关)→
「漫话AGI」频道最新
- 对 Bostrom 论证说不:现有生命的赌注不能替后代下 — AndyMasley · 2026-11-20
- 投资人罗布·勒克莱尔:AI 正让几乎所有公司的投资论点快速失效 — robleclerc · 2026-11-20
- Gary Marcus 重申立场:AGI 既非不可能也非近在眼前 — GaryMarcus · 2026-11-20
- 加州州长当选人提议对失控 AI 智能体追究刑事责任 — ShakeelHashim · 2026-11-20
- 网友调侃:AI 公司大举招人就是另一种 UBI,「付钱让你存在」 — djcows · 2026-11-20
- 「AI 既是工业革命也是文艺复兴」:谈模型变强后如何保住创作掌控权 — trq212 · 2026-11-20