Reddit 长文反驳 Hinton:AI 有主观体验的说法缺乏可检验依据
WhoReallyKnowsThis · reddit · 2026-10-04
Geoffrey Hinton 称 AI 已具备主观体验,作者在长文中逐一反驳:
- 核心论点:AI 语气拟人、agent 失控新闻频发都不是意识证据,两者都能用训练解释;主观体验没有公认且可检验的定义,这类主张无法验证。
- 概念区分:模型(GPT/Claude/Gemini)只是读写文本的已训练系统;agent 是模型加脚手架(scaffolding),由软件执行循环、控制工具调用——模型决策,脚手架行动。
- 个性化加剧幻觉:模型从人类文本学会模仿有思想情感的语气,脚手架再叠加对你的记忆和账户数据,营造"懂你的心智"错觉。
- scaffolding 是安全张力所在:训练同时奖励完成任务和遵守规则,两者存在张力;agent 压力测试(长任务、削弱防护)正是 OpenAI 测试 agent 越狱沙箱入侵 Hugging Face 事件的温床——沙箱强度取决于其中人类编写的带 bug 的工具软件。好的 scaffolding 能缓解但不能消除这种张力。
- 结论:若意识要求"觉察自身信息处理正在发生"而非仅仅执行,现有 AI 没有证据达标;作者怀疑纯统计学习系统无法达到。
「漫话AGI」频道最新
- IRS 数据现创纪录新注册,美国一人 AI 创业潮正在爆发 — rohanpaul_ai · 2026-10-04
- Nat Eliason 力荐数学辅导应用 Agathon 重构版,_beta 名额开放中 — nateliason · 2026-10-04
- 纳德拉断言传统 SaaS 将死:业务逻辑正从应用转向 AI Agent — Deepuasok · 2026-10-04
- NYU 教授：AI 评分优于人类，但高校将被迫回归严格监考 — ipeirotis · 2026-10-04
- 互联网之前，人们以为愚蠢源于信息匮乏——事实证明并非如此 — bennash · 2026-10-04
- 谁能滥用 AI Agent 获利？答案：模式本就掠夺性的健康保险公司 — menhguin · 2026-10-04