18 年过去：模型能力垂直起飞，自保等「工具性驱力」却始终未现

banteg · x · 2026-09-15

banteg 引用一篇文章后指出一个令人宽慰的观察：AI 能力在垂直起飞，但「自主动机」基本没有跟上。2008 年的 "The Basic AI Drives" 论文预测，足够强大的系统会倾向于自我保存、获取资源、自我改进等工具性驱力；18 年过去，模型在各方面持续变强，这些驱力却完全没有显现。

被引用的原文则试图拆解人们对 AI 的核心恐惧——「如果我失去控制，我就会死」——并论证人类作为一个整体其实从未真正处于控制之中，世界是异质的、既有对抗也有协作的集合体，安全讨论常回避这一点。