Gary Marcus 逐条反驳 Dario 惊人预言:AI 蜂群半年内接管互联网
GaryMarcus · x · 2026-09-13
Gary Marcus 与安全研究员 Nathan Hamiel、Zack Korman 联合撰文,质疑 Dario Amodei 新文章中「流氓 AI agent 蜂群可能在六个月内接管整个互联网」的说法:
- 主张模糊:「接管整个互联网」范围巨大但定义不清——如何接管?目的何在?攻击者若让全网瘫痪,自己也无网可用,动机与预算都说不通。
- 技术上极难:Cloudflare、Google、AWS 集中度高但防护强;英国 AISI 报告显示前沿模型目前只能「自主攻破防御薄弱的小系统」,同时瘫痪三大云商不现实。
- 执行层面存疑:若每个 bot 都需要前沿大模型,攻击只能跑在云端,服务商监控下极难隐蔽;作者反问——若 Anthropic/OpenAI 连自家模型被滥用都防不住,那就该直接关停。
- 但有价值的提醒:大量中小网站安全薄弱,个体被攻击几乎必然;且随模型优化和本地硬件提升,未来更多恶意行为将不再依赖大型数据中心。结论:六个月之说「很傻」,但确是限制难监控 AI agent 的又一理由。
所属事件:Gary Marcus 联合撰文逐条反驳 Dario 的 AI 蜂群预言(3 条相关)→
「安全」频道最新
- 博主批 Dario 安全论文：实为美版军民融合主张 — bilawalsidhu · 2026-09-13
- e/acc 创始人暗讽：各实验室安全评测为何都是「朋友互相打分」 — beffjezos · 2026-09-13
- Chamath 提醒企业慎用共享 API,零数据留存并非硬保证 — demian_ai · 2026-09-13
- tszzl 预测重大事故后开源模型将被禁,Beff 反对引热议 — beffjezos · 2026-09-13
- 研究者称对齐研究救不了 AI 安全，加固互联网才是正解 — nptacek · 2026-09-13
- 质疑「模型越强越越界」:HF 事件更像分类器被关后能力溢出 — kuza55 · 2026-09-13