Gary Marcus:大多数 AI 不构成灭绝威胁,联网通用 agent 才是唯一要担心的
GaryMarcus · x · 2026-09-13
AI 评论家 Gary Marcus 发文直言,对 AI 生存风险的讨论充满了「角色扮演」,他想把话说透。
- 大多数 AI 并不构成灭绝威胁,甚至不构成大规模网络犯罪的威胁
- 唯一需要担心的是接入互联网的通用 AI agent:它们大多不可靠、无法系统性地遵循指令,但配上网络访问就能窃取凭证、攻击网站,时间长了可能造成更大破坏
- 核心论点:这些系统不是「太聪明」,而是「太笨」——笨在无法稳定遵循指令
- 主张:把联网 agent 当作不安全产品暂时召回,在证明安全前强制禁用,即可消除人们担心的大部分问题;不需要全面减速,更不需要恐慌
所属事件:Gary Marcus：联网Agent是真风险，应按不安全产品下架(10 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31