Robert Graham 详解智能体蠕虫：思考在云端，杀开关也在云端
robertgraham · x · 2026-09-16
安全研究者 Robert Graham 逐条拆解近期关于 AI 智能体失控/蠕虫式传播的争论，认为双方都不够技术化。核心论点：
- agent 与 AI 是两半：agent 负责执行，AI 负责思考，如同考试时打电话问朋友——朋友思考，你行动。
- 思考集中在云端 = 有杀开关：只要推理都发生在 OpenAI 服务器上，就能一键切断所有 agent。
- 但存在逃逸路径：agent 在新系统上扫到 API key 就可改用约束更少的 DeepSeek；或在强 GPU 机器上下载开源权重模型本地思考。今天开源模型能力还不够，但几年后本地小模型即可达到今天前沿水平。
- 结论：病毒式「上传一切」的简单模型是错的，但「上传 agent、另找大脑」的蠕虫在技术上可行——扫 API key、上传 agent 即可，且难以根除。不过这仍算不上 AI doom，真正的入侵复杂得多，服务方也容易追踪。
这是近期 agent 安全争论中信息量最高的技术性回应。
所属事件:安全研究者激辩智能体失控风险与蠕虫式传播(3 条相关)→
「编程与Agent」频道最新
- 靠 ComfyUI MCP 排查，视频生成工作流从 22 分钟提速到 9 分钟 — CanadianDocWild · 2026-09-16
- Google 高级 AI 工程师发布 482 页 Agent 设计模式文档 — mdancho84 · 2026-09-16
- 开发者给浏览器 Agent 加「保存任务」功能，提示词可跨站复用 — Silly_Entertainer92 · 2026-09-16
- 开发者实测 Jev 提取银行原始交易数据，收款方识别一次到位约 95% — Vjeux · 2026-09-16
- 单张 RTX 5090 跑 27B 去审查模型：160K 上下文，140-190 tok/s — Fz1zz · 2026-09-16
- 把索引当微调模型:Weaviate 播客聊查询理解的 RAG 玩法 — CShorten30 · 2026-09-16