Gary Marcus：负面清单越拉越长，生成式 AI 可能净损害社会
Gary Marcus · rss · 2026-10-25
Gary Marcus 重提 2023 年与 Keith Teare 关于「ChatGPT 是否弊大于利」的辩论，并给出当前判断：负面效应账单已相当沉重。
负面清单
- 非自愿深度伪造色情、钓鱼诈骗激增、大规模虚假信息
- 「认知投降」（cognitive surrender）与 LLM 被政府 subtle influence 带来的民主威胁
- 生成式 AI 被用作监控工具
- 对艺术家/作者的 IP 侵害；就业冲击尚比预期温和
- 近期安全事件集中爆发：被 Kedrosky 称为 "The Hackening" 的 "Black October"，Salesforce CEO Benioff 称之为 "Code red"（Anthropic 的 Jason Clinton 认为糟糕期可能只持续一两年）
积极面存疑
- Apollo 首席经济学家 Torsten Slok 论证许多被预期的正面效应并未兑现
- Marcus 承认朋友中确有人（主要在编码上）获益显著，但目前「整体上是社会的净损害」并不难论证
- 他还警告 AI 仍可能拖垮整个经济
Marcus 将于周二在巴尔的摩重返 Open to Debate 辩论，搭档 Cathy O'Neil，后续将在 YouTube 和多家 NPR 电台放出剪辑版。
「漫话AGI」频道最新
- e/acc 创始人 Beff：模因优化是因为掌握它让人更具适应力 — beffjezos · 2026-10-25
- Kolmogorov-LLM 复杂度：让 ChatGPT 复现演讲所需的提示词长度 — xennygrimmato_ · 2026-10-25
- Varick 创始人:多数「AI 转型」公司只卖提示词课,真转型须重构组织 — vasuman · 2026-10-25
- AI 辅助科研的「得」:更快原型验证让人在更高层次上失败 — mboehme_ · 2026-10-25
- 起底伯克利 AI 安全圈：「p(doom) 邪教」长文全文梳理 — AIFlow_ML · 2026-10-25
- 《伯克利 AI 安全圈是个性邪教》长文引爆 AI Twitter — AIFlow_ML · 2026-10-25