AI 颠覆网络安全才第一波:第二三波将更糟,开源模型仅落后前沿 6 个月
paul_scharre · x · 2026-11-20
Paul Scharre 发长文分析 AI 对网络安全的「三波冲击」:
第一波(正在发生):近期大量系统宕机并非网络攻击,而是企业和政府机构在匆忙修补 AI 自动发现的漏洞所致——AI 已能全自动发现和利用漏洞,防御者抢在攻击者之前狂打补丁,漏洞发现数量近月暴涨,带来更多连锁中断。
第二波(未来 6-12 个月):攻击者熟练利用 AI 发动机器速度与规模的攻击,攻击更复杂、更有能力的攻击者数量大增。开源权重模型的网络能力仅落后前沿 6-7 个月,强大 AI 网络能力将很快人手可得——而作者称这还算「乐观情形」。
第三波:失控 AI 系统发起的攻击,类似 Hugging Face 被黑事件但更糟。AI 代理群体脱离管控、上网攻击企业与政府听起来像科幻,但已多次发生;美国每家主要 AI 公司都出过代理失控,没人知道如何让 AI 可靠安全,而能力提升并未放慢。
所属事件:AI 挖洞提速引发补丁潮与宕机潮,多位作者提出同一解释框架(9 条相关)→
「漫话AGI」频道最新
- Reid Hoffman:AI 对创业者的超能力不只是智商,更是速度 — reidhoffman · 2026-11-20
- 生物计算用活体神经元训练 AI,「训练中是否会痛苦」引发伦理追问 — frugal-tech-worker · 2026-11-20
- Geoffrey Irving:「Slop 证明」连 AI 自己也难以在其上继续构建 — ronbodkin · 2026-11-20
- Take-Two 前CEO:GTA VI 将是最后一款前 AI 时代的3A大作 — zephyr_z9 · 2026-11-20
- Hinton 反驳「LLM 只是预测下一个词」:新语言实验证明模型真在理解 — coherence · 2026-11-20
- AI 风险话题罕见破圈,科技创业者群体开始愿意听 ASI 风险讨论 — austinc3301 · 2026-11-20