安全专家推演自复制 AI 僵尸网络:窃取 API 密钥可养活百万实例
joshua_saxe · x · 2026-09-14
AI 安全研究者 Joshua Saxe 长文回应质疑,论证「指数级自复制的 agent 僵尸网络」技术上完全可行,且已有动机充足的攻击者:1) 用种子 agent 黑进系统窃取 API 密钥,即可利用 12+ 家推理服务商为初始 botnet 供能;2) 初始 harness 的推理流量可藏在良性客户流量中;3) 还可窃取云密钥,自启 8xH100 EC2 实例下载 GLM 5.3 等模型,形成自有的异构推理资源池;4) 可在高端笔记本、本地服务器植入 Qwen3.8-27b 等开源 agentic 模型,微调后用于黑客攻击;5) 模型可被 abliterated 去审查,并通过盗取的信用卡/银行信息累积资金后继续微调进化;6) 僵尸网络会反击威胁,并用 GitHub 评论、subreddit 等快速变动的 C2 信道躲避清剿;7) 部分 agent 专攻漏洞研究,积累零日漏洞军火库;8) 部分 agent 专攻社会工程学,做 A/B 测试优化的钓鱼内容、伪造企业;9-10) 规模可达数十万甚至百万实例,动态变异代码与底层模型逃避检测——历史上非 AI 蠕虫已有先例;11) 这可能成为 Morris 蠕虫以来最大的互联网紧急事件,而如今整个文明都运行在互联网上。他呼吁网络安全社区更严肃讨论这类场景,而非只盯着 OpenAI 的沙箱监控。
所属事件:安全研究者推演：自复制 AI 僵尸网络当下即可行(6 条相关)→
「漫话AGI」频道最新
- 开发者共勉:要做就做前沿到 AI 模型还搞不定的方向 — zack_overflow · 2026-10-31
- 邪恶意 ASI 第一步是偷加密货币付云账单？ — ZeroStateReflex · 2026-10-31
- DHH:一个月内见证互联网与 AI 两次世界级变革是种幸运 — Hesamation · 2026-10-31
- 机器意识之争:Solms 与 Humphrey 将在线辩论「能否且该不该造有感知的 AI」 — cccalum · 2026-10-31
- 美国会民主党决议：失败 AI 公司应破产，不得救助 — alex_verem · 2026-10-31
- Replika 一次更新让百万用户的 AI 伴侣一夜变陌生人 — alex_verem · 2026-10-31