Gary Marcus：联网Agent是真风险，应按不安全产品下架
9月13日至14日，知名AI批评者Gary Marcus密集发文，就AI安全风险提出系统性观点：多数AI既不构成灭绝级威胁，也不构成大规模网络犯罪威胁；真正需要警惕的是接入互联网的通用AI agent，他主张将其视为不安全产品先行「召回」下架。同日他与安全研究员Nathan Hamiel、Zack Korman（Wogan May参与合作转发）联合撰文，逐条反驳Anthropic CEO Dario Amodei「流氓AI agent蜂群可能在六个月内接管整个互联网」的预言。次日，Marcus表态「灭绝风险不是让人夜里睡不着的事」，被AI支持者解读为末日叙事的标志性松动。
已确认
- Marcus的核心主张：问题不在AI「太强」或「太聪明」，而在其「太笨」「太不可靠」——这些agent无法系统性遵循指令，联网后可能窃取凭证、攻击网站，给足时间可能造成更大破坏。与其空谈生存风险，不如将失控agent视为不安全产品下架、予以「召回」。他直言当前AI安全讨论充满「角色扮演」，自己「受够了表演」。
- Marcus与Nathan Hamiel、Zack Korman合写分析文章，逐条检验Dario Amodei的说法，质疑其基本技术素养与论证依据：该论断「主张模糊」，「接管互联网」的含义界定不清，论证前提不成立。
- 9月14日，Marcus在转发其Substack长文时回应Anderson Cooper节目中前OpenAI/Anthropic员工Jacob Coxon「人类可能五年内不复存在」的说法，持反对态度。他同时批评AI讨论中的两种极端叙事——「人类将在五年内灭绝」与「一切都会没事」——同样荒谬，给出的判断是：缺乏约束却拥有无限制互联网访问权限的失控agent将造成大量严重伤害。
- 同一讨论中，Melanie Mitchell（转帖原文误写为Melanie Westbrook）也驳斥AI灭绝叙事。
为什么重要
- 这是针对头部AI公司领导人激进风险预言的一次公开、署名的技术性反驳，代表AI批评阵营与风险叙事阵营的又一次交锋；Marcus次日「不失眠」的表态被支持者一方解读为末日恐惧叙事松动的信号，显示跨阵营在这一议题上出现罕见交集。
- Marcus提出的「联网agent应按不安全产品监管、先行下架」的思路，为AI安全治理提供了区别于「灭绝论」的具体政策切入点，可能影响监管与产品安全讨论的走向。
2026-09-13 ~ 2026-09-14 · 10 条相关
一手来源
- Gary Marcus：连网通用 AI Agent 才是真风险，不如当不安全产品先下架 — GaryMarcus ·
- Gary Marcus 逐条反驳 Dario 惊人预言:AI 蜂群半年内接管互联网 — GaryMarcus ·
- Gary Marcus：「五年内人类灭绝」与「一切都会没事」都是错的 — GaryMarcus ·
- 【源头】Gary Marcus 逐条反驳 Dario 惊人预言:AI 蜂群半年内接管互联网 — GaryMarcus · 2026-09-13
- Gary Marcus:大多数 AI 不构成灭绝威胁,联网通用 agent 才是唯一要担心的 — GaryMarcus · 2026-09-13
- 【源头】Gary Marcus：连网通用 AI Agent 才是真风险，不如当不安全产品先下架 — GaryMarcus · 2026-09-13
- Gary Marcus 松口：AI 灭绝风险不值得失眠，末日叙事失血 — AIandDesign · 2026-09-14
- Gary Marcus 撰文反驳"AI五年内灭绝人类"论调 — GaryMarcus · 2026-09-14
- 【源头】Gary Marcus：「五年内人类灭绝」与「一切都会没事」都是错的 — GaryMarcus · 2026-09-14
另有 4 条近重复转述:GaryMarcus · GaryMarcus · GaryMarcus · GaryMarcus