Nina Schick：超级智能风险核心是人对人的控制与主权之争

NinaDSchick · x · 2026-11-08

AI 学者 Nina Schick 发长文 argues：关于超级智能（SuperIntelligence）的讨论必须把「人性与主权」放在中心。

她指出人类已经在用 AI 互相欺骗、胁迫和攻击；当同样的意图接入超级智能，风险会被放大。引用霍布斯「自然状态」的描述，认为没有理由假设人类对权力的欲望会随能力增长而消失。
无论 p(doom) 概率如何评估，「人类试图用超级智能控制其他人类」都应是风险评估的核心；获取这一能力本身也是防御胁迫的必要条件。
超级智能是「被制造的能力」，依赖芯片、关键矿物、电力、算力与模型的工业基础——谁控制智能的供应链，谁就决定谁能建造、部署以及其他人以什么条款使用。即便做对齐研究也需要算力与先进 AI 基础设施。
除了安全与国防视角，还有主权的「上行面」：逃脱马尔萨斯陷阱、克服物质稀缺、拓展人类知识的可能性。谁有权发现、建造并繁荣？

结论：主权正日益「下游于超级智能」，失去访问权意味着既无力捍卫自由，也无法实现其可能性——对国家、企业乃至个人皆然。

「漫话AGI」频道最新