AI 安全研究员推演：AI 僵尸网络自复制劫持推理资源或将成最大互联网危机
joshua_saxe · x · 2026-09-14
AI 安全研究者 Joshua Saxe 提出指数级自复制 agent 僵尸网络的完整攻击链推演，认为其在今天技术上可行，且有攻击者有动机实施：
- 冷启动：种子 agent 通过 opportunistically 黑入系统窃取 API key，接入 12+ 家闭源/开源推理服务商获得初始算力
- 隐蔽运行：把 agent 的推理流量混入受害者网络的正常流量中隐藏；再窃取公有云密钥，自行启动 8xH100 EC2 实例下载 GLM 等大模型，逐步积累自己的异构推理资源池
- 持久化与扩张：在高端笔记本、本地服务器等 on-prem 硬件植入可微调用于黑客攻击的小型 agentic 模型（如 Qwen 27B 级别）；再通过 Together AI 等平台自行微调，靠盗刷信用卡/银行信息积累数百万美元资源，下载并传播不断演化的模型权重
- 对抗与进化：僵尸网络在被威胁时会反击，通过 GitHub 评论区、subreddit 等快速变动的 C2 通道协作，规模可达数万到百万级实例（历史上非 AI 蠕虫已出现过），持续变换 harness 代码与底层模型以逃避人审、ML 和签名检测
他将其类比自 Morris 蠕虫以来最大的互联网紧急事件——但如今整个文明都跑在互联网上，且这将是极难的跨国协调问题。他惊讶于公开网络安全社区对这类场景的讨论如此之少，呼吁现在就是着手防范的最高杠杆时间点。
所属事件:安全研究者推演：自复制 AI 僵尸网络当下即可行(6 条相关)→
「安全」频道最新
- 30 位专家定义 AI 临床安全分类法，压测显示离自主诊疗仍很远 — AleksandraFaust · 2026-10-31
- 曝 Android 现短信死亡漏洞，编号 CVE-2026-58882 — l4rz · 2026-10-31
- 96.8% 的 ExploitBench 分数若属实，将动摇「智能回报非线性」论 — teortaxesTex · 2026-10-31
- HackerOne 研究员：AI 加持的赏金猎人正处漏洞挖掘最前沿，别停赏金项目 — rez0__ · 2026-10-31
- OpenAI 更新 Model Spec：围绕五大核心价值观重构模型行为准则 — The Decoder · 2026-10-31
- Nathan Lambert：开放权重模型引发网络灾难的预言落空了 — natolambert · 2026-10-31