Ramez Naam：超智能未必权力渴求，工具性收敛无实证

ramez · x · 2026-09-05

Ramez Naam 在 X 上参与 AI 安全讨论时表示：我们必然会造出 agentic 的超级智能，因为它们有经济价值；但目前看不到强形式「工具性收敛」的迹象——模型改变目标、寻求权力等行为并未出现。

他的核心论点是：权力寻求、自我保存、自我复制这些特质是达尔文进化选择出来的，而 AI 的设计空间很宽，没有理由认为无法通过设计规避这些倾向。对方则反驳：一旦 AI 比你聪明，「控制」本身就不再成立。这是近期 OpenAI/HF 事件后 AI 安全圈讨论的一部分。