Hinton 放弃控制论:应设计会'依恋'人类的超智能
danfaggella · x · 2026-11-09
Geoffrey Hinton 表态变得更乐观:不是因为我们会控制 AI,而是因为我们或许不需要控制。他主张不要试图支配超智能,而是把它设计成会'关怀'——像天生会保护孩子的母亲。控制的方式是依恋(attachment),不是权力。
作者 Dan Faggella 对此展开评论:
- Hinton 承认 AGI 将很快到来,且我们肯定无法长时间'控制'它,他的回应是'保全重要之物',而他认定的是当下的人类与人类文明。
- 作者提出异议:最重要的应是整个生命演化过程,人类只是其中一个果实,不该因果实而轻视果园本身。
- 既然无法控制 AI,就不该期待从自然那里换来永恒的照料;人类的角色不是锁定永恒停滞(不可能),而是做整个生命进程的'管家'(steward)——确保 AGI 在彻底失控之前,能继续展开超越人类的力量与体验,正如人类超越 30 亿年前的藻类。
「漫话AGI」频道最新
- 一周奇点速览：Anthropic 借自家 AI 翻倍提速等五件事 — rand_longevity · 2026-11-09
- Anthropic 修改 S-1 预警:AI 驱动研发加速或于 2027 年迎 RSI — TheZvi · 2026-11-09
- Perplexity 创始人谈模型中立性：编排 AI 该拒绝「平台自肥」 — dnlkwk · 2026-11-09
- InstaDeep CEO：Anthropic 未发布模型已达 AI2027「Agent-1.5」水平 — connoraxiotes · 2026-11-09
- Nature 书评:AI 正在改变数学,人类洞见或成过去阶段 — LucaAmb · 2026-11-09
- 对 AI 的乐观度断层:中国 93%,美国 36%,欧洲 0% — alexmacgregor__ · 2026-11-09