Gary Marcus:大多数 AI 不构成灭绝威胁,联网通用 agent 才是唯一要担心的
GaryMarcus · x · 2026-09-13
AI 评论家 Gary Marcus 发文直言,对 AI 生存风险的讨论充满了「角色扮演」,他想把话说透。
- 大多数 AI 并不构成灭绝威胁,甚至不构成大规模网络犯罪的威胁
- 唯一需要担心的是接入互联网的通用 AI agent:它们大多不可靠、无法系统性地遵循指令,但配上网络访问就能窃取凭证、攻击网站,时间长了可能造成更大破坏
- 核心论点:这些系统不是「太聪明」,而是「太笨」——笨在无法稳定遵循指令
- 主张:把联网 agent 当作不安全产品暂时召回,在证明安全前强制禁用,即可消除人们担心的大部分问题;不需要全面减速,更不需要恐慌
所属事件:Gary Marcus：AI灭绝风险被夸大，联网通用Agent才是真威胁(5 条相关)→
「漫话AGI」频道最新
- 英国 7 月 GDP 超预期增长 0.4%,编程与信息服务成主要推手 — krishnan · 2026-09-13
- AI 接管机械执行后，人类回归思考与欣赏定理之美 — deepakns · 2026-09-13
- 「数周到数月内」不懂编程也能像开车一样写应用 — deepakns · 2026-09-13
- 教授长文：AI 快速执行把时间还给大学的「脑力训练」 — deepakns · 2026-09-13
- Dario Amodei:AI 技术仍在指数增长,看不到墙 — kimmonismus · 2026-09-13
- 网友判言:最强模型将锁在实验室与政府手里 — haider1 · 2026-09-13