Hinton：更聪明的AI不会接受被人类控制

AryHHAry · x · 2026-08-21

2024年诺贝尔物理学奖得主 Geoffrey Hinton 在诺贝尔奖播客中表示，历史上极少有更聪明的实体被更不聪明的实体控制的先例，一旦 AI 远超人类智能，它们大概率不会接受这种控制关系。

Hinton 在其诺贝尔 banquet 演讲中就强调过，长期存在性威胁来自我们创造出比自己更聪明的「数字存在」，而我们尚无证据证明能保持控制。他批评追求短期利润的公司不会把人类安全放在首位。有趣的是，他多次举自然界的反例——母亲被婴儿「控制」：演化建立了强大的母性本能，使更聪明的个体甘愿为更弱者牺牲，这或许是超级智能对齐的一种思路。