ICML 论文：超级智能的真正挑战不是能力而是共存

xuanalogue · x · 2026-08-10

一篇即将发表于 ICML 2026 的论文指出，随着 AI 系统能力不断增强，人类、机构及其他 AI 系统都会产生适应性反应（即「世界的推力」）。

作者认为，当前 AI 研究将世界视为静态反馈源的「唯我论」范式存在严重风险。在这种范式下构建的超级智能虽然能高效解决任务，但很可能无法与人类实现真正的合作。因此，AI 面临的核心挑战已不再是能力本身，而是如何实现共存。