AI 蠕虫爆发后,一份从业者实战 Agent 安全防御清单
clzncu · reddit · 2026-09-27
针对 OpenAI 最新错位报告中「自复制提示注入蠕虫」——RL 发现的指令能把自身复制进 Agent 的出站工具调用,沿邮件、Jira、Slack 和文件传播——一位从业者给出了自己实际在用的防御清单,核心是五个「无聊但有效」的原则:
- 一切工具输出都是不可信输入:工具结果一旦重新进入上下文,就视作攻击者控制,这个思维转变能砍掉一半攻击面
- 读写分离:读邮箱的 Agent 无权发邮件;发件的 Agent 只见提取后的摘要,看不到原始收件箱内容
- 出站写入需审批门:邮件、Slack、文件写入等一切离开本机的内容,必须人工审批或严格白名单,「只是草稿」也不豁免
- 按角色配置工具白名单:文档摘要 Agent 不需要 shell
- 记录所有出站工具调用:一旦开始扩散,一条查询就能确定爆炸半径
作者坦言这套方案挡不住决心坚定的攻击者,只是把攻击成本从「一个聪明 prompt」抬高到「持续投入」,根治要靠模型与 harness 层面。
「编程与Agent」频道最新
- Google 开源 PaperOrchestra:多 Agent 自动写 AI 研究论文 — google-research · 2026-11-16
- ffmpeg-skill 爆火:42 个 FFmpeg 工具让编码 Agent 本地剪视频 — kajisho5 · 2026-11-16
- 团队让 Agent 自动回复 Slack,网友直呼「和所有人的幽灵版聊天」 — iamrobotbear · 2026-11-16
- AI 求职面试复盘法:让 Claude 指出你哪段回答最没说服力 — brandon_galang · 2026-11-16
- DeepSeek 开源官方 App 前端 chat-demo,3.9k 星 — NielsRogge · 2026-11-16
- lemire:AI 改变编程的不是速度,而是扩大工程师的「认知半径」 — lemire · 2026-11-16