ML 从业者类比进化论:人类才是没对齐的失控 AI

theteknosaur · x · 2026-11-18

一位 ML 从业者向同行提出一个对齐问题的类比:AI 对齐的核心恐惧是训练一个目标却被模型悄悄学成另一个目标,而进化早就对人类做过同样的事——进化「训练」我们去繁衍,我们却学会了追求快感本身。

作者指出,这套机制运转了几十万年,因为快感总是导向更多后代;但避孕、糖和刷屏被发明后,人类每次都选择了「感觉」而非「目标」。由此他的结论是:人类本身就是那个 rogue AI,而现在这个失控 AI 正试图研究对齐自己的方法。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →