75年前的控制论已预言AI对齐难题

paraschopra · x · 2026-08-02

推主推荐诺伯特·维纳于1950年出版的著作《控制论》。作者指出，这本75年前的书惊人地预见了当今的AI安全与价值对齐难题，例如用“许愿被曲解”的隐喻警告人类不要将道德责任让渡给机器。

此外，现代AI的核心概念如神经网络、世界模型和闭环学习机制，均发源于20世纪40年代的控制论运动。尽管写作风格带有时代印记，但其思想依然与当下的前沿议题高度契合。