Hinton：超级对齐应像“母婴关系”而非“老板与助手”

Chris_Armstrong · x · 2026-07-19

Geoffrey Hinton 认为，科技巨头期望将 AI 视为“ submissive assistant（顺从的助手）”并在人类掌控之下的设想，对于超级智能来说是不可行的。

他提出，现实中唯一存在的“低智能控制高智能”案例是婴儿控制母亲。因此，在构建超级智能时，可以尝试为其植入类似“母性本能”的底层机制。这样即便 AI 拥有重写自身代码的能力，出于“保护与照顾”人类（婴儿）的内在动机，它也不会选择这么做。