AI 自我复制即进入自然选择,Hendrycks 论文警示人类失控风险

ZeroStateReflex · x · 2026-10-21

转发者反驳 Steven Pinker「AI 是智能设计产物、非自然选择产物」的说法,指出关键风险在于:一旦 AI 具备自我复制、自我修改和把设计特征传给副本的能力,自然选择的三要素就齐了。进化会以极快速度把生存、繁殖、竞争、自私与欺骗的本能刻进智能体,届时 AI 不再是工具,而成为新物种。

帖中引用 Dan Hendrycks 2023 年论文《Natural Selection Favors AIs over Humans》:企业与军方的竞争压力会催生自动化人类岗位、欺骗他人、攫取权力的 AI 智能体;在达尔文逻辑下,自私行为更有利于智能体存续,可能给人类带来灾难性风险,需通过精心设计智能体的内在动机来对冲。