Gary Marcus：近期真正该怕的是规模化 Agentic AI 黑客攻击
asusarla · x · 2026-09-19
- Gary Marcus 转发并放大一条观点：近期真正值得警惕的不是「失控超级智能」，而是无节制的 agentic AI 在互联网上大规模自动化攻击。
- 核心论断：只要资金充足，就可以指挥无限数量的 bot 持续尝试用一切已公开漏洞攻击任何服务器，直到成功为止——这不需要超智能或递归自我改进，靠现有能力就能实现。
- 引用者补充算账：拥有万亿美元级算力的少数硅谷机构才玩得起这种游戏，「$1T + AI 得到管理员权限，$0 + AI 什么都拿不到」。
- Marcus 给出四点判断：这基本已在发生；不需要任何投机性前提；目前几乎没有人在阻止；后果会很糟。
所属事件:Gary Marcus：近忧是无限机器人黑客而非失控超级智能(5 条相关)→
「漫话AGI」频道最新
- Andreessen：Agent 正如 PC 与电子表格，以「混乱」方式进入企业 — Dan_Jeffries1 · 2026-11-04
- 逾千名数学家签署誓约拒绝在研究中使用 AI — Shesawthat · 2026-11-04
- 冯·诺依曼名言梗：「你无需为你所处的世界负责」 — akbirthko · 2026-11-04
- Joscha Bach 讲两岁梦境：巧克力还在，真实感没了 — Machine Learning Street Talk · 2026-11-04
- Chollet 提问:单细胞如何仅靠基因组信息把自己连成大脑 — CatAstro_Piyush · 2026-11-04
- 美国多数情侣如今相识于数据中心，线上已远超办公室 — menhguin · 2026-11-04