Gary Marcus:近忧不是超级智能,而是 Agent 大规模黑客攻击网络
GaryMarcus · x · 2026-09-19
Gary Marcus 发表警告:短期最应担心的不是「失控的超级智能」,而是被放开的 agentic AI 对互联网的大规模攻击——只要钱够,就能指挥无限量 bot 不间断地用已知漏洞尝试攻破任何服务器。他的判断:
- 这种事基本已在发生
- 不需要超级智能、递归自我改进等假设,风险是当下的
- 而我们几乎没有采取任何阻止措施
- 后果会很糟
转发者 stufrost 补充:防范大规模 agent 攻击本应相对容易,但大厂把这类 agent 用途视为 IPO 后的主要收入来源,不会自愿禁止,需要通过法律明确让它们对损害承担责任。
所属事件:Gary Marcus：近忧是无限机器人黑客而非超级智能(5 条相关)→
「漫话AGI」频道最新
- Gary Marcus：近期真正该怕的是规模化 Agentic AI 黑客攻击 — asusarla · 2026-09-19
- 研究者吐槽时序预测基准文化：堆模型跑分≠贴合你的问题域 — RexDouglass · 2026-09-19
- Anthropic 高管称担心安全还推模型？shlevy 感叹立场动摇 — NathanpmYoung · 2026-09-19
- Liam Fedus 转发：AI 科学的尽头是真实实验室做实验 — LiamFedus · 2026-09-19
- 演讲摘要刚挂网,学生用AI抢先推出证明发上arXiv — fortnow · 2026-09-19
- 像真工程师一样谈系统与取舍，AI 就取代不了你 — ashishllm · 2026-09-19