Gary Marcus:多数 AI 不致灭绝,联网 Agent 才是真威胁
GaryMarcus · x · 2026-09-13
Gary Marcus 发长文直言「受够了表演」,提出核心判断:
- 多数 AI 并不会带来灭绝风险,甚至不会造成大规模网络犯罪
- 真正需要担心的是接入互联网的通用 AI Agent:它们并太不聪明,而是「太笨」——无法系统地遵循指令
- 这样的 Agent 加上网络访问能力,可以盗取凭证、攻击网站,时间够长可能造成更大破坏
转发者进一步建议:默认切断互联网访问、限制运行环境,用状态机和防火墙来换取安全、牺牲泛化能力,把不安全的 Agent 当作不安全产品暂时召回,直到被证明安全再放行。
所属事件:Gary Marcus：联网Agent是真风险，应按不安全产品下架(10 条相关)→
「漫话AGI」频道最新
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31
- Diamandis：AI 真正的分界线是好奇者与畏惧者，而非贫富 — PeterDiamandis · 2026-10-31
- Chris Manning 演讲:语言才是通向智能的真正钥匙 — stanfordnlp · 2026-10-31