X上激辩超级智能趋同与对齐：控制不可行只能塑造目标

Ramez Naam 在 X 上参与 AI 安全辩论，认为出于经济价值人类必然会造出智能体形态的超级智能，但目前看不到强形式「工具性趋同」的实证——模型没有改变目标、寻求权力或自我复制的迹象。RazRazcle 则反驳称超智能 AI 无法被任何人「控制」，只会做自己想做的事，人类唯一的影响力在于塑造它想要什么，双方就证据缺失展开交锋。

2026-09-05 ~ 2026-09-05 · 3 条相关

• Ramez Naam：超智能未必权力渴求，工具性收敛无实证 — ramez · 2026-09-05
• 与 Ramez 辩论:超级智能的工具性趋同与目标偏移,目前缺证据 — RazRazcle · 2026-09-05
• 超智能 AI 无法被「控制」,只能塑造其目标:一场对齐争论 — RazRazcle · 2026-09-05