Gary Marcus：连网通用 AI Agent 才是真风险，不如当不安全产品先下架

GaryMarcus · x · 2026-09-13

知名 AI 批评者 Gary Marcus 发长文 blunt 表态：大多数 AI 并不会导致灭绝级风险或大规模网络犯罪，真正需要担心的是接上互联网的通用 AI agent——它们大多不可靠、无法系统性遵循指令，联网后可能窃取凭证、攻击网站，时间够长甚至造成更大破坏。

他的核心论点是：这些 agent 的问题不是「太聪明」而是「太笨」（具体指无法稳定遵循指令）。与其担心「失控 AI」叙事，不如把它们当作不安全产品暂时召回，在有安全证明前强制禁用——如此一来大多数 rogue AI 担忧自然消失。他认为既不需要整体减速，也不需要恐慌，只需把不安全的产品下架。