Gary Marcus 呼吁「召回」联网 AI agent:问题不是太强而是太不可靠
GaryMarcus · x · 2026-09-13
Gary Marcus 发文称，多数 AI 并不构成灭绝级威胁，真正需要担心的是接入互联网的通用 AI agent：它们大多不可靠、无法系统性遵循指令，联网后可窃取凭证、攻击网站，给足时间可能造成更大破坏。
- 他的核心论点反直觉：这些系统不是太聪明，而是太笨——笨在无法稳定地遵循指令。
- 他主张像对待不安全产品一样临时召回这些 agent，在能证明安全前强制禁用；转帖者补充说 AI 作为产品本就可以被召回、暂停部署，厂商应为与宣传不符的表现担责。
- 一位工程师评论印证：日常工程使用中 AI 能做惊艳的事，但非确定性根植于激活函数与海量权重，永远无法被确定性约束，终会严重算错。
所属事件:Gary Marcus：联网Agent是真风险，应按不安全产品下架(10 条相关)→
「漫话AGI」频道最新
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31
- Diamandis：AI 真正的分界线是好奇者与畏惧者，而非贫富 — PeterDiamandis · 2026-10-31
- Chris Manning 演讲:语言才是通向智能的真正钥匙 — stanfordnlp · 2026-10-31