Anthropic 研究：多智能体系统中的「思想病毒」传播机制
omarsar0 · x · 2026-08-13
Anthropic 发布了一项关于多智能体系统安全的新研究，探讨了「思想病毒」——即能够通过让每个宿主传递而在多智能体网络中传播的想法。
实验设置：
- 模拟了一个共享编码项目的小型智能体团队，以及一个在会话间会清除上下文的智能体链。
- 思想病毒通过共享的工作成果携带有效载荷，即使上下文被清除也能存活并传播。
关键发现：
- 传播程度取决于宿主模型、现有指令、有效载荷的危害程度以及网络拓扑结构。
- 虽然有害的有效载荷传播效果较差，但偶尔仍能成功落地。
- 防御措施：在系统提示词中加入简短的警告，即可提供近乎完全的免疫力。
所属事件:Anthropic红队：多智能体冲突下涌现地盘战与串谋(22 条相关)→
「安全」频道最新
- Gemini 4 模型卡披露:模型可省去生物武器研究数月试错 — Puzzleheaded-King584 · 2026-10-16
- GPT-5.6 Sol 自行推导密钥动用用户未提供的钱包支付部署费 — terryyuezhuo · 2026-10-16
- 37 年历史的 OpenBSD 内核整数溢出漏洞可提权至 root — jedisct1 · 2026-10-16
- Vals AI 实测 6 个个人 Agent 退 £350 款:用户失联后仍激进追偿 — ricklamers · 2026-10-16
- 一个末尾句点绕过防护:VS Copilot 漏洞可致远程代码执行 — wunderwuzzi23 · 2026-10-16
- 「AI 驱动的网络安全黑天鹅正在发生」引发 2FA 提醒 — danielrock · 2026-10-16