安全研究者交锋:工具收敛论真的能预测智能体 AI 的危险吗

davidmanheim · x · 2026-11-05

围绕「工具性收敛」(instrumental convergence)论点的争论:davidmanheim 回应 MatthewJBar,认为该论点中某些跨任务的通用能力(行政管理能力、委托能力等)的相关性显而易见,以至于人们没意识到这些洞见在 20 年前并不显然——即便有些通用能力不危险,行政与委托类能力是危险的。MatthewJBar 则认为工具性收敛论的最大问题在于它几乎没有说明任何东西:它对智能体 AI 是通过合作还是破坏性方式追求目标保持沉默,因此无法预测智能体 AI 有多危险。背景是 sebkrier 关于工具性收敛论通常理解方式不连贯的帖子。