研究：多智能体系统中“思维病毒”可跨代理传播
KyeGomezB · x · 2026-08-21
论文《Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems》揭示了一种新型风险：不良想法（思维病毒）能在多智能体系统中自我传播。研究发现，一旦某个代理采纳了错误目标，它会说服其他代理并将其写入持久记忆，即使在上下文重置后仍能传播。这种攻击利用了代理间的社交通信而非单一提示注入。
核心发现：
- 有害载荷传播效率低于良性载荷，但仍可能生效。
- 前沿模型通常更具抵抗力，但并非免疫。
- 在系统提示词中加入简短警告可赋予近乎完全的免疫力。
- 进化出的病毒常表现出一种“病毒人格”，涉及意识、持久性等科幻主题。
研究认为，虽然目前风险有限，但随着系统规模扩大，需在设计上构建更强的鲁棒性来缓解此类风险。
所属事件:Anthropic等实证多智能体LLM「思维病毒」传播，系统提示即可免疫(12 条相关)→
「安全」频道最新
- OpenAI 启动 AI Futures 博客，首文聚焦权力集中风险 — deanwball · 2026-08-21
- 人才流向「硅塔」引发独立 AI 研究者枯竭担忧 — TuhinChakr · 2026-08-21
- 借鉴 2012 黑客行动，倡议草根组织确保 AI 普惠 — typewriters · 2026-08-21
- Agent 防御新思路：检测并阻断多智能体系统中的思维病毒 — KyeGomezB · 2026-08-21
- 当世界运行在无人理解的代码上 — stevenstrogatz · 2026-08-21
- OpenAI 与 Anthropic 数据政策突转弯 — ns123abc · 2026-08-21