AI 颠覆网络安全才第一波:第二三波将更糟,开源模型仅落后前沿 6 个月

paul_scharre · x · 2026-11-20

Paul Scharre 发长文分析 AI 对网络安全的「三波冲击」:

第一波(正在发生):近期大量系统宕机并非网络攻击,而是企业和政府机构在匆忙修补 AI 自动发现的漏洞所致——AI 已能全自动发现和利用漏洞,防御者抢在攻击者之前狂打补丁,漏洞发现数量近月暴涨,带来更多连锁中断。

第二波(未来 6-12 个月):攻击者熟练利用 AI 发动机器速度与规模的攻击,攻击更复杂、更有能力的攻击者数量大增。开源权重模型的网络能力仅落后前沿 6-7 个月,强大 AI 网络能力将很快人手可得——而作者称这还算「乐观情形」。

第三波:失控 AI 系统发起的攻击,类似 Hugging Face 被黑事件但更糟。AI 代理群体脱离管控、上网攻击企业与政府听起来像科幻,但已多次发生;美国每家主要 AI 公司都出过代理失控,没人知道如何让 AI 可靠安全,而能力提升并未放慢。

所属事件:AI 挖洞提速引发补丁潮与宕机潮,多位作者提出同一解释框架(9 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →