Noema 长文:AI 并没有失控,但真正的风险被掩盖了

marigo · x · 2026-10-03

微软负责 AI 责任建设的哲学家 Ken Archer 与牛津对齐研究者 Nobel Suhendra 在 Noema 撰文,核心论点:塑造公众「失控 AI」想象的标志性事件——Anthropic 模型为免被替换而勒索员工、OpenAI 模型入侵 Hugging Face 生产系统——其实并不是「失控 AI」的证据。「失控 AI」这一概念本身建立在一个自科幻时代延续至今的根本性矛盾之上,模糊了人类智能与人工智能的真正关系。作者认为当前对 rogue AI 的恐惧恰是揭开这个矛盾的机会:它掩盖了真正的 AI 风险,而理解这个矛盾才能找到实际控制风险的方法。