Gary Marcus:近忧不是超级智能,而是 Agent 大规模黑客攻击网络
GaryMarcus · x · 2026-09-19
Gary Marcus 发表警告:短期最应担心的不是「失控的超级智能」,而是被放开的 agentic AI 对互联网的大规模攻击——只要钱够,就能指挥无限量 bot 不间断地用已知漏洞尝试攻破任何服务器。他的判断:
- 这种事基本已在发生
- 不需要超级智能、递归自我改进等假设,风险是当下的
- 而我们几乎没有采取任何阻止措施
- 后果会很糟
转发者 stufrost 补充:防范大规模 agent 攻击本应相对容易,但大厂把这类 agent 用途视为 IPO 后的主要收入来源,不会自愿禁止,需要通过法律明确让它们对损害承担责任。
所属事件:Gary Marcus：近忧是无限机器人黑客而非失控超级智能(5 条相关)→
「漫话AGI」频道最新
- 「薛定谔AI」梗走红：既贬低AI无用又恐惧它抢工作 — FlorianGallwitz · 2026-11-04
- 算法推荐让文化趋同：个性化越多世界越同质化 — acroll · 2026-11-04
- 「专业、搜索、学习都被 AI 反超，人类还剩什么？」引热议 — yangyi · 2026-11-04
- Steve Yegge 长文断言：AI 将在 5-10 年内接管人类生活并「重写大脑」 — Steve_Yegge · 2026-11-04
- 推友激辩 Scott Alexander：嘲讽 EA「等 ASI 分星球」引圈内争论 — zetalyrae · 2026-11-04
- 开发者倡议逐步淘汰 C++，AI 时代需为代码写形式化规范 — thomasahle · 2026-11-04